בשבוע האחרון התרחשה (עוד) קפיצת דרך בעולם הבינה המלאכותית, עם שחרורו של מודל חדש של חברת Open AI – מודל הקרוי Chat-GPT o1 ומכונה strawberry. המודל החדש פועל באופן שונה ממודלים קודמים ומאפשר הסקה סיבתית מדורגת, תוך חשיבה עמוקה יותר על כל תשובה ותשובה. המודל החדש מצטיין במיוחד בתחומי מדע – פתרון בעיות מורכבות במתמטיקה, פיזיקה ולוגיקה, בעיות שמודלים קודמים התקשו בהם במיוחד.
פרופ' רן בליצר, סמנכ"ל וראש מערך החדשנות ב"כללית", מסביר כי נתונים ראשונים מעידים על כך שהמודל משיג תוצאות טובות יותר מקודמיו גם במענה על שאלות מורכבות בעולם הבריאות, שאלות המדמות מקרה "מתגלגל" המחייב חשיבה קלינית עם התקדמות הדרגתית באבחנה ככל שמתקבלות תשובות לשאלות ששואל המאבחן.
"התבססות על היכולת האנושית, ללא עזרת ה-AI, עלולה להיות מוגדרת בתוך שנים ספורות בתחומים כמו קריאת תמונות דימות כ'איכות נמוכה באופן לא סביר' לצורך מתן מענה למטופל. בהמשך, תהליך דומה עתיד לקרות גם לגבי ניסיון של רופא לבחור טיפול מומלץ"פרופ' רן בליצר, סמנכ"ל וראש מערך החדשנות ב"כללית", יו"ר החברה הישראלית לאיכות ברפואה. צילום: יח"צ
בשבוע שעבר התקיים הכנס השנתי של החברה הישראלית לאיכות ברפואה בהשתתפות כ-1,500 בכירי מערכת הבריאות. כיו"ר החברה, סיפר פרופ' בליצר בהרצאת הפתיחה כי קיימים תחומים בהם כבר הוכח יתרון קליני לבינה המלאכותית אל מול יכולת הרופא המומחה וציין שבקצב ההתפתחות האקספוננציאלי של הבינה המלאכותית, סביר שבתחומים נוספים נראה מגמה דומה.
"התבססות על היכולת האנושית, ללא עזרת ה-AI, עלולה להיות מוגדרת בתוך שנים ספורות בתחומים כמו קריאת תמונות דימות כ'איכות נמוכה באופן לא סביר' לצורך מתן מענה למטופל. בהמשך, תהליך דומה עתיד לקרות גם לגבי ניסיון של רופא לבחור טיפול מומלץ בהתבסס על מאות אינדיקטורים שונים ברשומה הרפואית. אנחנו צריכים להיערך בזהירות ותוך הקצאת משאבים וקשב למציאות המתפתחת, כדי שנמשיך לתת מענה רפואי איכות ובטוח", אמר פרופ' בליצר.
לדבריו, כדי לוודא שמערכת הבריאות בישראל לא תישאר מאחור, עליה לעשות התאמות מהירות ולאמץ כלים חדשים אשר ישמשו כיועץ או עוזר אישי לקלינאים ועובדי מקצועות הבריאות, אולם עליה לעשות זאת בזהירות רבה. במערכות הבריאות מתייחסים בחשדנות לכלי בינה מלאכותית מהסוג החדש (מודלי שפה גדולים) בשל מגוון חסרונות המובנים בהם ובעיקר הנטייה להמציא תוצאות ("להזות") והיעדר מחקרים המדגים את בטיחותם של מודלים חדשים אלה. זאת, להבדיל ממודלים קלאסיים של למידה מכונה, אשר פטורים מחלק מאותן בעיות ומוטמעים זה שנים במערכות קליניות ברחבי העולם באישור הרשויות הרגולטוריות המחמירות ביותר.
OPTICA - מערכת להערכת כלי AI בסביבה הקלינית
כדי להתמודד עם אתגרים אלה ואחרים, גייסו ב"כללית" ניסיון של 15 שנה בהטמעת מערכות AI בקליניקה, ויצרו כלי חדש בשם OPTICA להערכת כלי AI בסביבה הקלינית. OPTICA היא מערכת מקיפה אך פרקטית וישימה, המשתרעת על 13 תחומים לבדיקה – לפני, תוך כדי ולאחר הטמעת הכלי בסביבה הקלינית, כאשר כל חלק מכיל בין שלוש ל-12 נקודות לבחינה. המודל מתמקד בארבעה תחומים עיקריים: בירור והבהרת ההתאמה של הפתרון לצורך הרפואי, ההתאמה בין המידע הזמין למידע שקורא המודל, בחינת הפונקציונליות ואיכות התוצאות של המערכת, ותכנון הליכי היישום וניטור הביצועים המתמשך.
מעשית, הכלי מגדיר שישה אנשי מפתח הנדרשים להיות מעורבים בתהליך ההערכה, אשר כוללים בראש ובראשונה את הקלינאי המומחה לתחום הנדון. "לא תיתכן הערכה שאינה מובלת על ידי הקלינאים", אומר פרופ' בליצר, "אולם, אין בהם די. כדי לענות על חלק מהשאלות מתחייבת פנייה ושילוב של דמויות מפתח מתוך הקבוצה שפיתחה את המוצר, את הממונים על הדאטה והטכנולוגיה בארגון וגורמים בעלי מומחיות ספציפית בתחום ה-AI. בכל אחד מהשלבים, יש שאלות שרק הם יודעים להשיב עליהן בבטחה".
פעילות מערכת OPTICA. פתרון ייחודי לאתגר ארגוני בריאות מול שטף הצעות לפתרונות AI
הכלי OPTICAיOrganizational Perspective Checklist for AI -solutions Adoption, פותח ע"י צוות מערך החדשנות של "כללית" יחד עם אנשי הטכנולוגיה, הגנת המידע, ה-IT, חטיבת בתי החולים וחטיבת הקהילה. הוא נבחן ב"כללית" מול מוצרי AI שונים, והניסיון הארגוני אשר נצבר בכללית בשימוש בו פורסם לאחרונה בכתב העת המדעי New England Journal of Medicine AI. הכלי, אשר הונגש לשימוש חופשי לארגוני בריאות בארץ ובעולם, זכה להתייחסויות אוהדות מגורמי מקצוע מובילים ברשתות החברתיות כפתרון ייחודי לאתגר המשותף כיום לארגוני בריאות רבים הניצבים בפני שטף גדל של הצעות לפתרונות AI.
"כמו שאנו מעבירים סמכויות למקצועות נוספים – אחיות, עוזרי רופא, מאמני חוסן – בשלב כלשהו לא רק ניעזר אלא נעביר סמכויות ואחריות מוגדרת גם למערכות בינה מלאכותית"
בשבוע הבא ירצה פרופ' בליצר באותו נושא בפאנל מליאה באירוע חגיגי של האו"ם (Summit of the Future), לרגל פרסום דו"ח המלצות על הבקרה הגלובלית של כלי בינה מלאכותית. הדו"ח יפורסם על ידי ה-UN Secretary General Advisory Body on AI, אחד הגופים החשובים בעולם בתחום, אשר פרופ' בליצר נמנה על אחד מ-39 חבריו. דו"ח האו"ם צפוי להתייחס לסוגיות ואתגרים דומים ברמה הגלובלית – כיצד מצד אחד ממצים את הפוטנציאל של ה-AI לטובת האנושות, ומנגד מגדרים היטב את הסיכונים הכרוכים בו.
בליצר מציין גם שהתקווה והשאיפה היא שבשלב הראשון, וכבר בתקופה הנראית לעין, יישומי AI יפחיתו את ההיבטים הטכניים והביורוקרטיים בפעילות היומיומית הקלינית, ויחזירו את המגע האנושי להיות המרכז של הפעילות הקלינית. הוא מכיר עם זאת בכך שעם הזמן, בעתיד היותר רחוק, חלק מהפעילות הקלינית עשויה לעבור לניהול ישיר מול כלי AI, ורק המקרים המשמעותיים והמורכבים יותר יישמרו למגע האנושי.
"השבוע נחתם בבית החולים מאיר לראשונה בישראל מרשם על ידי אחות, והשמיים לא נפלו. כמו שאנו מעבירים סמכויות למקצועות נוספים – אחיות, עוזרי רופא, מאמני חוסן – בשלב כלשהו לא רק ניעזר אלא נעביר סמכויות ואחריות מוגדרת גם למערכות בינה מלאכותית. במצב עניינים זה, כלים כמו OPTICA ימלאו תפקיד מכריע בהבטחת יישום אחראי, אתי ומדויק של פתרונות מבוססי AI, לטובת ארגוני הבריאות והמטופלים כאחד", הוא מסכם.
* מחברי המאמר ב-NEJM AI: פרופ' נעה דגן, ד"ר סתיו דבנוס-סברו, ד"ר זיו פז, ד"ר לילך צולר, ד"ר אדיר זומר, ד"ר גלית שחם, ניר שחר, רעות אוחנה, ד"ר אורלי וינשטיין, פרופ' דורון נצר, אביבית קוטלר, פרופ' רן בליצר
הירשמו לקבלת עדכונים בנושאים שעלו בכתבה
