گتی ایماژ

هوش مصنوعی (AI) به سرعت در حال حرکت است و به یک ابزار پشتیبانی مهم در مراقبت های بالینی تبدیل خواهد شد. تحقیقات نشان می دهد که الگوریتم های هوش مصنوعی می توانند به دقت ملانوم را تشخیص دهد و پیش بینی سرطان سینه در آینده.

اما قبل از اینکه بتوان هوش مصنوعی را در استفاده معمول بالینی ادغام کرد، باید به چالش سوگیری الگوریتمی بپردازیم. الگوریتم های هوش مصنوعی ممکن است دارای سوگیری های ذاتی باشند که می تواند منجر به تبعیض و مسائل مربوط به حریم خصوصی شود. سیستم‌های هوش مصنوعی همچنین می‌توانند بدون نظارت یا مشارکت انسانی مورد نیاز تصمیم‌گیری کنند.

 نمونه ای از اثرات بالقوه مضر هوش مصنوعی از یک پروژه بین المللی هدف آن استفاده از هوش مصنوعی برای نجات جان انسان‌ها با توسعه درمان‌های جدید پزشکی است. در آزمایشی، این تیم مدل هوش مصنوعی «خوب» خود را معکوس کردند تا گزینه‌هایی را برای یک مدل جدید هوش مصنوعی ایجاد کنند تا «آسیب» وارد کند.

در کمتر از شش ساعت آموزش، الگوریتم هوش مصنوعی معکوس ده‌ها هزار عامل بالقوه جنگ شیمیایی را تولید کرد که بسیار خطرناک‌تر از عوامل جنگی فعلی بودند. این یک مثال افراطی در مورد ترکیبات شیمیایی است، اما به عنوان زنگ خطری برای ارزیابی پیامدهای اخلاقی شناخته شده و غیرقابل تصور هوش مصنوعی عمل می کند.

هوش مصنوعی در مراقبت های بالینی

در پزشکی، ما با خصوصی ترین داده های افراد و اغلب تصمیمات تغییر دهنده زندگی سر و کار داریم. چارچوب‌های اخلاقی قوی هوش مصنوعی ضروری است.

La پروژه صرع استرالیا هدف آن بهبود زندگی مردم و در دسترس قرار دادن مراقبت های بالینی بیشتر است. بر اساس تصویربرداری پیشرفته مغز، اطلاعات ژنتیکی و شناختی از هزاران نفر از افراد مبتلا به صرع، ما قصد داریم از هوش مصنوعی برای به سوالات بی پاسخ فعلی پاسخ دهید.

آیا تشنج این فرد ادامه خواهد داشت؟ کدام دارو موثرتر است؟ آیا جراحی مغز یک گزینه درمانی مناسب است؟ اینها سوالات اساسی هستند که پزشکی مدرن در تلاش است تا به آنها رسیدگی کند.

به عنوان سرپرست این پروژه، نگرانی اصلی من این است که هوش مصنوعی به سرعت در حال حرکت است و نظارت نظارتی حداقل است. این مسائل به همین دلیل است که ما اخیراً یک انجمن را تأسیس کردیم چارچوب اخلاقی برای استفاده از هوش مصنوعی به عنوان یک ابزار پشتیبانی بالینی. این چارچوب قصد دارد اطمینان حاصل کند که فناوری‌های هوش مصنوعی ما باز، ایمن و قابل اعتماد هستند و در عین حال فراگیری و انصاف را در مراقبت‌های بالینی تقویت می‌کند.

بنابراین چگونه می‌توانیم اخلاق هوش مصنوعی را در پزشکی برای کاهش تعصب و حفظ کنترل روی الگوریتم‌ها پیاده‌سازی کنیم؟ اصل علم کامپیوتر "زباله در داخل، زباله بیرون" برای هوش مصنوعی اعمال می شود. فرض کنید ما داده های مغرضانه را از نمونه های کوچک جمع آوری می کنیم. الگوریتم‌های هوش مصنوعی ما احتمالاً مغرضانه بوده و در یک محیط بالینی دیگر قابل تکرار نیستند.

یافتن نمونه هایی از سوگیری ها در مدل های هوش مصنوعی معاصر کار سختی نیست. مدل‌های محبوب زبان بزرگ (به عنوان مثال ChatGPT) و مدل‌های انتشار پنهان (DALL-E و Stable Diffusion) نشان می‌دهند که چگونه تعصبات صریح با توجه به جنسیت، قومیت و وضعیت اجتماعی-اقتصادی ممکن است رخ دهد.

محققان دریافتند که درخواست‌های ساده کاربر تصاویری ایجاد می‌کند که کلیشه‌های قومی، جنسیتی و طبقاتی را تداوم می‌بخشد. به عنوان مثال، یک درخواست برای یک پزشک بیشتر تولید می کند تصاویری از پزشکان مرد که با واقعیت همخوانی ندارد زیرا حدود نیمی از پزشکان در کشورهای OECD زن هستند.

اجرای ایمن هوش مصنوعی پزشکی

راه حل جلوگیری از تعصب و تبعیض بی اهمیت نیست. ایجاد برابری سلامت و تقویت جامعیت در مطالعات بالینی احتمالاً در میان این موارد است راه حل های اولیه برای مبارزه با سوگیری ها در هوش مصنوعی پزشکی

به طور دلگرم کننده، سازمان غذا و داروی ایالات متحده اخیرا پیشنهاد کرده است اجباری کردن تنوع در آزمایشات بالینی این پیشنهاد حرکتی به سمت مطالعات بالینی کمتر مغرضانه و مبتنی بر جامعه را نشان می دهد.

یکی دیگر از موانع پیشرفت، بودجه محدود تحقیقاتی است. الگوریتم های هوش مصنوعی معمولاً به مقادیر قابل توجهی داده نیاز دارند که می تواند گران باشد. بسیار مهم است که مکانیسم های تامین مالی پیشرفته ای ایجاد شود که منابع لازم را برای جمع آوری داده های مرتبط بالینی مناسب برای کاربردهای هوش مصنوعی در اختیار محققان قرار دهد.

ما همچنین استدلال می‌کنیم که همیشه باید عملکرد درونی الگوریتم‌های هوش مصنوعی را بدانیم و بفهمیم که چگونه آنها به نتیجه‌گیری و توصیه‌های خود می‌رسند. این مفهوم اغلب به عنوان "قابلیت توضیح" در AI شناخته می شود. این به این ایده مربوط می‌شود که انسان‌ها و ماشین‌ها باید برای نتایج مطلوب با هم کار کنند.

ما ترجیح می‌دهیم اجرای پیش‌بینی در مدل‌ها را به‌عنوان هوش «افزایش‌یافته» به جای «مصنوعی» ببینیم – الگوریتم‌ها باید بخشی از فرآیند باشند و حرفه‌های پزشکی باید کنترل تصمیم‌گیری را در دست داشته باشند.

ما علاوه بر تشویق به استفاده از الگوریتم‌های قابل توضیح، از علم شفاف و باز پشتیبانی می‌کنیم. دانشمندان باید جزئیات مدل‌های هوش مصنوعی و روش‌شناسی آن‌ها را برای افزایش شفافیت و تکرارپذیری منتشر کنند.

ما در Aotearoa نیوزلند برای اطمینان از اجرای ایمن هوش مصنوعی در مراقبت های پزشکی به چه چیزی نیاز داریم؟ نگرانی های مربوط به اخلاق هوش مصنوعی در درجه اول توسط متخصصان در این زمینه هدایت می شود. با این حال، مقررات هدفمند هوش مصنوعی، مانند اتحادیه اروپا قانون هوش مصنوعی پیشنهاد شده اند و به این ملاحظات اخلاقی پرداخته اند.

قانون هوش مصنوعی اروپا مورد استقبال قرار می گیرد و از افرادی که در "هوش مصنوعی ایمن" کار می کنند محافظت می کند. دولت بریتانیا اخیرا آنها را منتشر کرد رویکرد فعال به مقررات هوش مصنوعی، به عنوان طرحی برای سایر پاسخ های دولت به ایمنی هوش مصنوعی عمل می کند.

در Aotearoa، ما برای اتخاذ یک موضع پیشگیرانه به جای واکنشی نسبت به ایمنی هوش مصنوعی استدلال می کنیم. این یک چارچوب اخلاقی برای استفاده از هوش مصنوعی در مراقبت‌های بالینی و سایر زمینه‌ها ایجاد می‌کند و هوش مصنوعی قابل تفسیر، ایمن و بی‌طرفانه را به دست می‌دهد. در نتیجه، اطمینان ما افزایش خواهد یافت که این فناوری قدرتمند به نفع جامعه است و در عین حال از آسیب محافظت می کند.

درباره نویسنده

منگور پدرسن، دانشیار روانشناسی و علوم اعصاب، دانشگاه اوکلند

این مقاله از مجله منتشر شده است گفتگو تحت مجوز Creative Commons دفعات بازدید: مقاله.

کتاب های مرتبط:

بدن امتیاز را حفظ می کند: ذهن و بدن مغز در درمان تروما

توسط بسل وان در کلک

این کتاب به بررسی ارتباط بین تروما و سلامت جسمی و روانی می پردازد و بینش ها و استراتژی هایی را برای بهبود و بهبودی ارائه می دهد.

برای اطلاعات بیشتر یا سفارش کلیک کنید

نفس: علم جدید یک هنر گمشده

توسط جیمز نستور

این کتاب علم و تمرین تنفس را بررسی می کند و بینش ها و تکنیک هایی را برای بهبود سلامت جسمی و روانی ارائه می دهد.

برای اطلاعات بیشتر یا سفارش کلیک کنید

پارادوکس گیاهی: خطرات پنهان در غذاهای "سالم" که باعث بیماری و افزایش وزن می شوند

توسط استیون آر گاندری

این کتاب به بررسی پیوندهای بین رژیم غذایی، سلامتی و بیماری می پردازد و بینش ها و استراتژی هایی را برای بهبود سلامت و تندرستی کلی ارائه می دهد.

برای اطلاعات بیشتر یا سفارش کلیک کنید

کد ایمنی: پارادایم جدید برای سلامت واقعی و ضد پیری رادیکال

توسط جوئل گرین

این کتاب با تکیه بر اصول اپی ژنتیک و ارائه بینش ها و استراتژی هایی برای بهینه سازی سلامت و پیری، دیدگاه جدیدی در مورد سلامت و ایمنی ارائه می دهد.

برای اطلاعات بیشتر یا سفارش کلیک کنید

راهنمای کامل روزه داری: بدن خود را از طریق روزه متناوب، متناوب و طولانی شفا دهید

توسط دکتر جیسون فانگ و جیمی مور

این کتاب علم و عمل روزه داری را بررسی می کند و بینش ها و استراتژی هایی را برای بهبود سلامت و تندرستی کلی ارائه می دهد.

برای اطلاعات بیشتر یا سفارش کلیک کنید