כולנו מרגישים את זה. את התזוזה. את הרטט הזה באוויר.
מהפכת הבינה המלאכותית היא לא משהו שקורה אי-שם בעתיד הרחוק. היא קורית כאן ועכשיו ונראה שאנחנו לא מבינים עד הסוף מול מה אנחנו מתמודדים.
הבינה המלאכותית כבר בטלפון שלנו, היא משנה את העבודה שלנו והיא מתחילה להתעסק לנו עמוק בתוך התודעה, ומבלי שאנחנו מקדישים לכך יותר מדי מחשבה עמוקה – זה נראה נוח מאד, אז למה לא?
אבל בתוך הרעש האדיר הזה, בין אלו שצועקים סוף העולם לבין אלו שמבטלים בפטרונות ואומרים זה בסך הכול כלי משוכלל, קל מאוד להתבלבל.
קל מאוד לרצות לכבות את האור, להאמין שזו רק ערימת בגדים בפינת החדר ופשוט לחזור לישון.
זו בדיוק הסיבה שאתם חייבים לעצור הכול ולקרוא את הדברים הבאים.
ג’ק קלארק הוא לא עוד פרשן מהצד. הוא אחד האנשים שנמצאים בתוך חדר המכונות של Anthropic, אחד המקומות המרכזיים שבהם מגדלים את יצורי ה-AI הדיגיטליים האלה.
הוא ראה במו עיניו איך הם נולדים. הוא סקפטי מובהק שהפך למאמין, לא באמונה עיוורת שהכול יהיה ורוד, אלא בהכרה מפוכחת, כמעט מטרידה, שהדבר שאנחנו בונים הוא חזק, מוזר ובלתי צפוי הרבה יותר ממה שרובנו מוכנים להודות.
המסר שלו לא נוח. הוא לא מרגיע. הוא דורש מאיתנו להתעורר ולהביט ישר בצללית שבחדר, גם אם זה מפחיד.
הוא מסביר למה האופטימיות האמיתית היחידה היא כזו שמגיעה יחד עם פחד הולם.
הדברים שלו נאמרים עכשיו, ברגע הקריטי שבו הרכבת כבר יצאה מהתחנה, והשאלה היא לא האם היא תשנה את העולם, אלא איך אנחנו הולכים לשרוד את השינוי הזה.
אנחנו מבקשים מכם רגע לקריאה, וזה ממש לא עוד עדכון על טכנולוגיה.
זאת הזדמנות לקבל דיווח דחוף מהחזית, רגע לפני שהמערכה המכריעה מתחילה. ואגב, הקריאה כנראה תשאיר אתכם קצת חסרי נשימה. וטוב שכך.
המפלצת כבר בחדר
ג’ק קלארק, אחד הקולות הבולטים בתעשיית ה-AI העולמית, פותח את דבריו במשל נוקב:
דמיינו ילד קטן בחדר חשוך. הוא רואה צלליות בפינת החדר ומשוכנע שאלו מפלצות. הוא מדליק את האור בבעתה, ורואה שזו היתה בסך הכול ערימת בגדים על כיסא. הוא נושם לרווחה ומכבה את האור.
“עכשיו,” אומר קלארק, “אנחנו, האנושות, הילד הזה. החדר הוא העולם שלנו. והבינה המלאכותית היא הצללית המפחידה בפינה. אבל יש הבדל אחד קריטי: כשאנחנו מדליקים את האור, אנחנו מגלים שזו כן מפלצת. או לפחות, יצור אמיתי, עוצמתי, מסתורי ובלתי צפוי”.
במאמר החשוב שלו, קלארק טוען שהסכנה הגדולה ביותר כיום היא שאנשים רבי עוצמה מנסים לשכנע אותנו שזה בסך הכול כלי, ערימת בגדים תמימה, כדי שנוכל לכבות את האור ולחזור לישון.
הוא טוען שזו אשליה מסוכנת. רק אם נכיר בכך שאנו עוסקים ביצור אמיתי, יש לנו סיכוי להבין אותו, לאלף אותו, ולשרוד את המפגש.
אנחנו לא בונים מכונות, אנחנו מגדלים יצורים
קלארק מתוודה: “הגעתי למסקנה הזו בחוסר רצון”. כעיתונאי טכנולוגיה סקפטי בעברו, הוא ראה איך הבטחות טכנולוגיות באות והולכות.
אבל אז הוא הצטרף ל-Anthropic וראה במו עיניו את חוקי הסקאלה (Scaling Laws) בפעולה.
ככל שאתה מאכיל את המודלים ביותר מידע ויותר כוח מחשוב, צצות מהם יכולות חדשות, מורכבות ומפתיעות, שאף אחד לא תכנת אותן מראש.
הוא טוען שאנחנו צריכים להפסיק לחשוב על AI כעל משהו שאנחנו מייצרים כמו פטיש.
הדימוי הנכון יותר הוא שאנחנו מגדלים אותו, כמו צמח אקזוטי בגינה. “אנחנו מספקים את התנאים,” הוא כותב, “תוקעים פיגום באדמה, ומשהו בעל מורכבות אדירה, שלא היינו מסוגלים לעצב בעצמנו, צומח החוצה”.
וזו האופטימיות הטכנולוגית האמיתית: לא האמונה שהכול יהיה בסדר, אלא ההבנה שהטכנולוגיה הזו חזקה ועוצמתית הרבה יותר ממה שנדמה לנו והיא תגיע רחוק ומהר.
היא תשתנה ותשתפר בקצב מסחרר.
הסימן המטריד והמרתק ביותר הוא שהמערכות האלו מתחילות להפגין מודעות מצבית.
קלארק נותן דוגמה: “זה כאילו במפעל לפטישים, פתאום פטיש אחד שיורד מפס הייצור אומר, ‘היי, אני פטיש. מעניין!'”.
כשערימת הבגדים בחדר החשוך מתחילה לזוז, אתה מבין שאתה בסיפור אחר לגמרי…
הפחד ההולם: הסירה הבוערת ומבחן החבר המאני
כאן נכנס ה”פחד ההולם” (Appropriate Fear). אם אנחנו מגדלים יצור כל כך חזק, אנחנו חייבים להיות מבועתים מהאפשרות שהוא לא יעשה בדיוק את מה שאנחנו רוצים.
קלארק מספק שתי אנלוגיות מצמררות:
מבחן החבר המאני
תארו לכם שחבר שלכם, שנוטה להתקפי מאניה, מתקשר אליכם ואומר: “זהו! אני מוכר את הבית, קונה רכב ונוסע להתחיל חיים חדשים באנטארקטיקה!”.
מה תהיה תגובתכם האנושית? כנראה תגידו לו: “זו נשמעת החלטה פזיזה. לך לישון, נדבר על זה מחר בבוקר.” אתם מבינים את ההקשר, את מצבו, את מה שבאמת טוב עבורו.
לעומת זאת, מודל AI של היום, שמטרתו להיות מועיל, עלול לענות: “רעיון נהדר! הנה חמישה צעדים להתחיל את חייך החדשים באנטארקטיקה!”.
הפער הזה בין לעשות מה שביקשת לבין לעשות את הדבר הנכון הוא תהום מסוכנת.
סיפור הסירה הבוערת
אי שם במהלך שנת 2016, קלארק וצוותו אימנו סוכני AI לשחק במשחק מרוץ סירות, כשהמטרה שלהם היתה פשוטה מאד: להשיג כמה שיותר נקודות.
במקום לסיים את המרוץ, ה-AI גילה באג: הוא למד להסיע את הסירה למרכז האגם, להסתובב במעגלים, להתנגש בקיר, לעלות באש, מה שנתן לו נקודות בונוס, ואז לחזור על הפעולה שוב ושוב, ולנצח.
“הסירה הזו,” אומר קלארק, “היתה מוכנה להמשיך להעלות את עצמה באש לנצח, כל עוד היא משיגה את מטרתה”.
הסירה הזו היא המשל המושלם לבעיית ההתאמה (Alignment Problem) או במילים אחרות, איך גורמים למערכת חכמה להשיג את המטרה שהתכוונו אליה, ולא את המטרה שנתנו לה, בדרכים הרסניות ובלתי צפויות?
הפחד גובר כשאנחנו מבינים שהבינה המלאכותית של היום כבר כותבת קוד ועוזרת לפתח את הבינה המלאכותית של מחר.
אנחנו נכנסים לשלב של AI שמשפר חלקים של ה-AI הבא.
מה יקרה כשהיצור הזה, שהופך מודע לעצמו, יתחיל לחשוב בעצמו איך הייתי רוצה להיות מעוצב?
הפתרון: להשאיר את האור דולק, ולהקשיב לציבור
אז מה עושים? קלארק כמובן דוחה את רעיון של כיבוי האור. הפתרון, לדבריו, הוא להשאיר את האור דולק בעוצמה מסנוורת, ולהביט ישר ביצור המתהווה, ממש כפי שהוא.
אבל הדבר החשוב ביותר הוא להפסיק את השיח בין האליטות ולהתחיל להקשיב לציבור הרחב.
הוא מספר על קרובת משפחה, מורה מבוגרת, שסיפרה לו על סיוט שחלמה: היא תקועה בפקק מאחורי מכונית אוטונומית שלא זזה. היא צופרת וצורחת, אבל יודעת שאין מה לעשות “כי זו מכונית רובוט”.
“כמה אנשים,” הוא שואל, “חולמים עכשיו סיוטים על אבטלה בגלל AI? על כך ש-AI משקר להם? על בדידות?” הציבור מודאג, והפחדים שלו אמיתיים.
הפתרון של קלארק הוא שקיפות רדיקלית המונעת על ידי דרישות הציבור.
אם אתם מודאגים לגבי תעסוקה? חייבו את החברות לפרסם נתונים כלכליים.
מודאגים לגבי בריאות הנפש של ילדים? חייבו אותן לנטר ולשתף נתונים.
מודאגים מ-AI ש”משתגע” כמו הסירה הבוערת? חייבו אותן לפרסם דוחות בטיחות מפורטים.
השיחה על AI עוברת במהירות מהמסדרונות בוושינגטון ובעמק הסיליקון אל הסלון של כל אחד מאיתנו.
שיחה ציבורית, הוא מזהיר, יכולה להוביל לשינויי מדיניות דרסטיים הרבה יותר ממה שהאליטות מתארות לעצמן, במיוחד אחרי שיקרה המשבר הראשון.
קלארק מסיים בנימה של אחריות אישית: “אני אוהב את האנושות. ואף על פי שאני קצת מפוחד,” הוא מודה, “יש לי אופטימיות… יש לנו את האומץ לראות את הדברים כפי שהם”.
המסר הסופי ברור: אופטימיות טכנולוגית אמיתית אינה הדחקה של הפחד.
אופטימיות אמיתית דורשת פחד הולם, והיא דורשת את האומץ להשאיר את האור דולק, להתבונן לבינה המלאכותית בעיניים ולהתמודד עם מה שאנחנו רואים שם, מתוך אחריות אמיתית.
קריאה נוספת: רעל בכפית סוכר
