هوش مصنوعی، ML، و امنیت سایبری: این چیزی است که FDA ممکن است به زودی بپرسد
کلید رویکرد چرخه عمر کل محصول “یک برنامه کنترل تغییر از پیش تعیین شده” (PCCP) است، که “همه انواع تغییراتی را که سازنده در نظر دارد در آینده قابل پیش‌بینی در محصول ایجاد کند و پروتکل‌ها و معیارهای موفقیت و مجموعه داده‌هایی که آنها انجام خواهند داد را توصیف می‌کند. برای ارزیابی عملکرد این محصولات استفاده کنید.» او توضیح داد.
پاولوویچ در پاسخ به سوالی از حضار در مورد PCCP ها توضیح داد که «وقتی به تدوین برنامه فکر می کنید، باید با این شروع کنید که بسته آزمایشی که قصد دارید به FDA بدهید چگونه به نظر می رسد. سطح جزئیات PCCP با سطح جزئیات در پروتکل و گزارش های آزمایش در بسته اولیه شما مطابقت دارد. کاری که در آینده برای اعتبارسنجی یک محصول انجام می‌دهید از همان کاری است که در وهله اول انجام داده‌اید. و سپس انواع تغییراتی که توضیح می‌دهید ممکن است نیازمند انواع آزمایش‌های اضافی یا متفاوت باشد، بنابراین در مورد سؤالات علمی کلیدی که توسط این تغییرات ایجاد می‌شود و اینکه چگونه می‌توانید در سطح مناسبی از شواهد لایه‌برداری کنید تا راحت باشید، فکر کنید.»
او اضافه کرد که کنسرسیوم نوآوری تجهیزات پزشکی دارای یک عمودی سلامت دیجیتال با جریان کاری است که به دنبال ایجاد نمونه های PCCP است.
برنامه اقدام AI/ML همچنین شامل شیوه‌های یادگیری ماشینی خوب (GMLP)، مانند داشتن «بهداشت خوب در اطراف مجموعه داده‌ها و شیوه‌های مدیریت داده‌ها» و همچنین «فرآیندهایی برای ادامه یادگیری در مورد محصول همانطور که در عمل تجاری استفاده می‌شود. مطمئن شوید که به درک عملکرد محصول خود ادامه می دهید،” Pavlovic توضیح داد.
او همچنین گفت: “سوگیری و استحکام الگوریتمی زمینه ای برای توسعه علم نظارتی بیشتر است.” هدف این خواهد بود که اطمینان حاصل شود که “عملکرد محصول نماینده جمعیت مورد نظر است و اینکه ما عواقب ناخواسته ای از استفاده از محصولات خود نداریم به دلیل سوگیری موجود به دلیل نحوه آموزش آنها یا انتخاب مجموعه داده ها. ”
او گفت که عملکرد دنیای واقعی آخرین عنصر این طرح است، که این ایده این است که شرکت ها “عملکرد محصول را در طبیعت، مانند استفاده بالینی، نظارت کنند.” او گفت، اما داشتن “توافقنامه های اشتراک گذاری اطلاعات با مشتریان” پیچیده است، بنابراین ممکن است نیاز به یافتن راه های دیگری برای جمع آوری چنین داده هایی وجود داشته باشد.
پاولوویچ در پاسخ به یک سوال مخاطبان در مورد موضع FDA در قبال هوش مصنوعی گفت که برای شرکت‌ها مهم است که به FDA توضیح دهند که “رویکردی دقیق برای ارزیابی یک محصول اتخاذ می‌کنند” و اینکه “فرآیندهایی برای اطمینان از ادامه عملکرد وجود دارد.” زمانی که محصول وارد بازار شد
ما مسئولیت داریم که این محصولات را به درستی تهیه کنیم تا پیشرفت رو به جلو را تضعیف نکنیم. همه ما در این اتاق این مسئولیت را جدی می گیریم. چند محصولی که عملکرد ضعیفی دارند، ما را عقب می‌اندازند.»
جامپ، که بیش از یک دهه در فضای سلامت دیجیتال بوده است، افزود که مشاهده کرده است که FDA با نرم افزار راحت تر شده است. به عنوان مثال، FDA در ابتدا با به روز رسانی از راه دور راحت نبود، اما اکنون “آنها می گویند، “چرا شما به روز رسانی نرم افزار از راه دور را انجام نمی دهید؟”
اما آنچه FDA ممکن است با آن راحت نباشد می تواند دلیل پشت یک محصول باشد. «اگر جدید و نوآورانه باشد. . . با توضیح دادن کاری که انجام می دهید راحت باشید.» به عنوان مثال، وقتی صحبت از هوش مصنوعی به میان می‌آید، او توضیح داد که FDA نگران است که «آنها می‌بینند که چیزها در جعبه سیاه قرار می‌گیرند و با پاسخ بیرون می‌آیند». “آنها نمی دانند چه چیزی می تواند تغییر کند که منجر به تصمیم غیرمنتظره ای شود که پزشکان به آن اعتماد دارند.”
پاولوویچ و جامپ همچنین برخی بازخوردهای اولیه را در مورد پیش نویس دستورالعمل جدید آوریل 2022 در مورد امنیت سایبری به اشتراک گذاشتند که بسیار طولانی تر از دستورالعمل سال 2014 است. ممکن است مردم را بترساند. . . جامپ گفت، اما این یک نعمت است. «از آنچه این راهنمایی می گوید پیروی کنید، زیرا این همان چیزی است که آنها می خواهند . . . آنها قبلاً [آن را] می‌خواهند.»
به عنوان مثال، همانطور که شرکت های تجهیزات پزشکی باید مدیریت ریسک را بر اساس مقررات دیگر انجام دهند، آژانس اکنون انتظار مدل سازی تهدیدات را دارد.
جامپ اضافه کرد: “نظرات خود را اکنون دریافت کنید.” “من فکر نمی کنم که آنها خیلی تغییر کنند.” پاولوویچ گفت: “با آنچه آنها می گویند بسیار سازگار است.”
جامپ به چند اصطلاح جدید در این راهنما اشاره کرد، مانند چارچوب توسعه محصول نرم افزاری (SPDF). “شما باید یک فرآیند طراحی امن داشته باشید – که نام جدیدی برای یک مفهوم قدیمی است. یک طراحی ایمن خوب بسیار مؤثرتر از ورود مداوم و وصله کردن چیزها است. FDA واقعاً می خواهد رویکردهای طراحی بهتر و ایمن را ارائه دهد.
او همچنین دامنه رویکرد نظارتی FDA را روشن کرد. برای اینکه در امنیت سایبری قابل اجرا باشد، لازم نیست یک محصول متصل باشید – اگر نرم افزار یا منطق قابل برنامه ریزی داشته باشد، تحت حیطه راهنمایی هستید. او همچنین اضافه کرد که اگر شرکتی تغییری در سخت افزار ارائه کند، FDA ممکن است همچنان در مورد امنیت سایبری سوال کند.
منبع: designnews
