با هوش مصنوعی در حوزه سلامت چه کار باید کرد؟

قبل از تأیید یک دارو توسط سازمان غذا و داروی ایالات متحده (FDA)، باید هم ایمنی و هم اثربخشی آن اثبات شود. با این حال، FDA برای تأیید یک دارو نیازی به درک از مکانیسم عمل آن ندارد. این پذیرش نتایج بدون توضیح، سوالی را در مورد این مطرح می‌کند که آیا برای اخذ تأیید FDA، فرآیند تصمیم‌گیری “جعبه‌ی سیاه” یک مدل هوش مصنوعی ایمن و موثر باید به طور کامل توضیح داده شود یا خیر.

این موضوع یکی از موارد مورد بحث در تاریخ 4 دسامبر در کنفرانس MIT Abdul Latif Jameel Clinic for Machine Learning in Health (Jameel Clinic) درباره سیاست‌های تنظیمی هوش مصنوعی و سلامت بود. این کنفرانس باعث بحرانی از میان اعضای هیأت علمی، نظامیان ایالات متحده، اتحادیه اروپا و نیجریه، و کارشناسان صنعت در مورد تنظیم هوش مصنوعی در حوزه سلامت شد.

همچنین، با تسریع چشمگیر یادگیری ماشین، ابهام در مورد اینکه آیا نظارت‌کنندگان می‌توانند با تکنولوژی گام بردارند و همچنان احتمال اثرات مخرب را کاهش دهند، در حالی که اطمینان حاصل کنند که کشورهای خود را در حوزه نوآوری حفظ می‌کنند، باقی می‌ماند. این رویداد Jameel Clinic به منظور اطلاع‌رسانی نظارتگران از پیشرفت‌های جدیدترین در زمینه هوش مصنوعی برگزار شد و به اعضای هیأت علمی و کارشناسان صنعت فرصت داد تا رویکردهای جدید یا متفاوت را در چارچوب‌های تنظیمی برای هوش مصنوعی در حوزه سلامت، به ویژه استفاده از آن در تنظیم داروها و محیط‌های بالینی، پیشنهاد دهند.

نقش هوش مصنوعی در پزشکی

نقش هوش مصنوعی در پزشکی اهمیت بیشتری یافته است، زیرا صنعت با کمبود نیروی کار پس از ویروس کرونا، افزایش هزینه‌ها (با وجود باور رایج “مسئله حقوقی”، به عنوان یک سخنران گفته شد)، و نرخ بالای خستگی و استعفاها در میان حرفه‌ایان بهداشت مواجه است. یکی از سخنرانان پیشنهاد داد که اولویت‌های استفاده از هوش مصنوعی در حوزه بالینی باید بیشتر بر روی ابزارهای عملیاتی تمرکز کند تا تشخیص و درمان بیمار.

یکی از حاضران به “عدم آگاهی روشن” در بین همه ذینفعان – نه فقط در میان جوامع توسعه‌دهندگان و سیستم‌های بهداشت، بلکه همچنین در میان بیماران و نظارتگران – اشاره کرد. با توجه به اینکه پزشکان عمدتاً کاربران اصلی ابزارهای هوش مصنوعی بالینی هستند، تعدادی از پزشکان حاضر از نظارتگران خواستند که پیش از اقدام مشورت کنند.

دسترسی به داده یکی از مسائل اصلی برای بیشتر پژوهشگران هوش مصنوعی بود. آن‌ها از کمبود داده برای بهبود کار ابزارهای هوش مصنوعی خود شکایت کردند. بسیاری با مشکلاتی مانند ممانعت از دسترسی به اطلاعات مالکیت فکری یا فقط نبود داده‌های بزرگ و با کیفیت مواجه شدند. در طول رویداد، یک سخنران اشاره کرد که “توسعه‌دهندگان نمی‌توانند میلیاردها دلار برای ایجاد داده صرف کنند، اما FDA می‌تواند.” سخنرانان از اتحادیه اروپا ترویج ایجاد یک سیستم برای الزام دولت‌ها به ارائه داده‌های سلامت برای پژوهشگران هوش مصنوعی را داشتند.

تا پایان رویداد یک روزه، بسیاری از حاضران پیشنهاد کردند که بحث را به تعویق انداخته و از گفتگوها و محیط بسته که ایجاد شده برای بحث‌های باز و مثمر بر تنظیمات هوش مصنوعی در حوزه سلامت استفاده کنند. هنگامی که رویدادهای پیشین تایید شوند، Jameel Clinic کارگاه‌های اضافی از همین نوع را توسعه خواهد داد تا انگیزه را حفظ کرده و نظارتگران را در جریان آخرین توسعه‌ها در این حوزه نگه‌دارد.

“ستارهٔ قطبی هر سیستم نظارتی، ایمنی است”، یکی از حاضران اعتراف کرد. “اندیشه نسلی از آن به دست می‌آید، سپس به سمت پایین پیش می‌رود.”