EU AI ACT - what changed for MedTech?

ה - EU AI Act הוא חוק אירופי שמסדיר שימוש בבינה מלאכותית לפי רמת סיכון.

הרעיון פשוט: ככל שמערכת AI יכולה להשפיע יותר על אנשים, בריאות, בטיחות או זכויות- כך דורשים ממנה יותר בקרה, תיעוד, שקיפות ופיקוח אנושי.

החידוש ממאי 2026 הוא שחלק מהדרישות למערכות AI בסיכון גבוה נדחו בלוחות הזמנים.

זה חשוב במיוחד ל- MedTech, כי הרבה מערכות AI במכשור רפואי נכנסות לקטגוריה של high-risk AI embedded in products

כלומר AI שמשולב בתוך מוצר רגולטורי, כמו תוכנה רפואית, מכשור רפואי או IVD.

ההסכם ממאי 2026 עדיין מוגדר כהסכם פוליטי זמני שממתין לאימוץ פורמלי, אבל הוא כבר נותן כיוון רגולטורי ברור.

השלבים שכבר עכשיו צריך ליישם:

1) איסור על שימושים מסוימים ב-AI שנחשבים לא מקובלים או מסוכנים מדי. למשל שימושים מניפולטיביים, פוגעניים, או כאלה שעלולים לפגוע בצורה חמורה בזכויות של אנשים.

2) דרישה שארגונים יוודאו שאנשים שמשתמשים ב-AI מבינים מה הם עושים ברמה בסיסית. לא צריך שכל עובד יהפוך למדען נתונים, אבל כן צריך שהוא יבין מה הכלי יכול לעשות, מה הוא לא יכול לעשות, איפה הסיכונים, ומתי אסור לסמוך עליו בעיניים עצומות.

3) למי שמפתח מודלים של AI (כמו מודלי שפה פנים ארגוניים) אם חברה משתמשת במודל כללי כדי לנתח מסמכי איכות, לכתוב CAPA,לתמוך בהחלטות רגולטוריות או לייצר תוכן טכני, היא צריכה להבין מה מקור הכלי, מה המגבלות שלו, איך הוא מנוהל, ואיזה מידע מותר או אסור להכניס אליו.

השלבים שנדחו:

1) דחיית יישום הדרישות עבור מערכות standalone high-risk AI לדצמבר 2027. כלומר- אם מערכת AI היא לא בהכרח חלק ממכשור רפואי, אבל היא מקבלת או תומכת בהחלטות משמעותיות האיחוד האירופי רוצה עליה בקרה רצינית: ניהול סיכונים, איכות נתונים, תיעוד, לוגים, שקיפות, פיקוח אנושי ובדיקות ביצועים.

2) דחיית יישום הדרישות עבור מערכות high-risk AI שהן חלק מהמוצר עצמו (למשל מכשור רפואי, IVD או תוכנה רפואית) לאוגוסט 2028. אם יש לך מוצר רפואי שמשתמש ב-AI כדי לזהות ממצא, להמליץ על החלטה, לנתח תמונה, לסווג תוצאה, לחזות סיכון או לתמוך בפעולה קלינית יש לך עוד זמן עד תחולת הדרישות, אבל לא פטור מהן.

ההמלצה שלי היא:

לא לאסור שימוש במודלי שפה כלליים.

כן להפוך את השימוש בהם למבוקר, מדורג, מתועד ומבוסס סיכון.

חברות שיאסרו לגמרי יגלו שהעובדים משתמשים בכלים בכל מקרה, רק בלי בקרה.

חברות שיפתחו הכול בלי מדיניות יגלו שהן הכניסו סיכון רגולטורי דרך הדלת האחורית.

הדרך הנכונה היא אמצע בוגר: לאפשר שימושים שמייצרים ערך, לחסום שימושים מסוכנים, ולבנות governance מספיק פשוט כדי שאנשים באמת יעבדו לפיו.

הדרכות לעובדים הן לא Nice to have. הן צריכות להיות אחד הצעדים הראשונים, במיוחד אם החברה כבר רכשה רישיונות למודלי שפה כלליים ופתחה שימוש לעובדים.