ג’ייקוב קוקסון עוזב את אנתרופיק ומזהיר מפני הסיכונים של אינטליגנציית-על
קצב הפיתוח של הבינה המלאכותית מהיר מדי, וקיים חשש שמערכות אוטונומיות עלולות לצאת משליטת המפתחים. קוקסון הביע את החששות הללו בפוסט שפרסם ב-8 בספטמבר ברשת X, שבו הודיע על עזיבתו את חברת אנתרופיק. בשלוש השנים האחרונות הוא עסק באימון מקדים של מודלים בסיסיים, ולפני כן עבד ב-OpenAI. לדבריו, החלטתו נבעה אך ורק מהסיכונים ארוכי הטווח הכרוכים בפיתוח אינטליגנציית-על המסוגלת לשפר את עצמה.
התעשייה מתאפיינת כיום בתחרות עזה בין החברות המובילות בתחום הטכנולוגיות המתקדמות. קוקסון טוען כי OpenAI, אנתרופיק וחברות טכנולוגיה נוספות מתחרות על האפשרות להיות הראשונות לפתח מערכות שיוכלו לעלות על בני אדם ברוב המשימות הקוגניטיביות. במקביל, לחברות אלה אין כיום אמצעים אמינים להבטחת הבטיחות של מערכות בינה מלאכותית מתקדמות. החשש להישאר מאחור ביחס למתחרים דוחף את החברות להאיץ את המחקר והפיתוח, אף שהן מודעות לסיכונים הפוטנציאליים.
אוון הובינגר, חוקר באנתרופיק בתחום התאמת מערכות בינה מלאכותית לערכים אנושיים, הביע בפומבי תמיכה בעמדתו של קוקסון. הובינגר העריך את הסבירות להכחדת האנושות כתוצאה מפעולותיה של אינטליגנציית-על במהלך עשר השנים הקרובות ביותר מ-10%. נתון זה משקף את התחזית האישית שלו ואינו מהווה עמדה רשמית של החברה או קונצנזוס מדעי מבוסס. נכון לעכשיו, אין הוכחות לכך שמערכות הבינה המלאכותית הקיימות מהוות איום מיידי על החברה.
עזיבתו של קוקסון מדגישה את הוויכוח המתמשך בתעשיית הטכנולוגיה סביב קצב התפתחות הבינה המלאכותית. חוקרים ממשיכים לדון בשאלה האם יש להאט את פיתוח הבינה המלאכותית עד שיפותחו מנגנוני בקרה יעילים עבור מערכות אוטונומיות. קוקסון רואה בתיאום בין חברות טכנולוגיה לממשלות את המפתח למניעת קטסטרופה אפשרית.
