התקדמות הבינה המלאכותית עלולה להוביל לסיום הקיום האנושי כפי שאנו מכירים אותו, על פי מכתב פתוח קצר ביותר שפורסם אתמול (30 במאי) ונחתם על ידי מנהלי טכנולוגיה גדולים, מדעני בינה מלאכותית, אקדמאים, ובאופן קצת לא מתאים, המוזיקאי גריימס. .
'הפחתת סיכוני ההכחדה מ-A.I. צריך להיות בעדיפות עולמית לצד סיכונים אחרים בקנה מידה חברתי כמו מגיפות ומלחמה גרעינית', הקצר הַצהָרָה קורא. הוא פורסם על ידי המרכז לא.י. בטיחות (CAIS), מלכ'ר המתמקד בהגנה על פריסת הטכנולוגיה.
האזהרה הקצרה, שלא כללה מידע קונטקסטואלי בנוגע להנחה החמורה שלה, באה בעקבות שני מכתבים פתוחים לאחרונה, המרמזים על סכנות פוטנציאליות הנשקפות מא.אי. מחקר ויישום.
בחודש מרץ, יותר מ-1,000 מומחים בתעשייה, כולל אילון מאסק ומייסד משותף של אפל, סטיב ווזניאק חתם על מכתב קורא להפסקה של שישה חודשים ב-A.I. פיתוח ללימוד הסיכונים ופיתוח פרוטוקולי בטיחות. החודש הבא, מכתב נוסף פורסם על ידי חברי האגודה לקידום הבינה המלאכותית, לרבות מיקרוסופט קצין המדע הראשי של אריק הורביץ, מזהיר מהיכולת של A.I. להעצים שחקנים רעים.
הדחיפות של שני ההודעות הקודמות מחווירה בהשוואה לזו של ההצהרה התמציתית של CAIS, שטוענת שמטרתה היא 'ליצור ידע משותף על המספר ההולך וגדל של מומחים ואנשי ציבור שלוקחים ברצינות חלק מהסיכונים החמורים ביותר של A.I. ”
מעבר לגרימס, תומכים בלתי צפויים נוספים של המכתב כוללים את הפודקאסט סם האריס, ראש TED כריס אנדרסון וקרסטי קלג'ולייד, הנשיאה לשעבר של הרפובליקה של אסטוניה. החותמים שבולטים, לעומת זאת, אינם אלה שנראים לא במקום, אלא אלה שבנו קריירה מעצם הטכנולוגיה שהם מזהירים כעת עלולה לגרום להכחדה.
סם אלטמן, מנכ'ל OpenAI
סם אלטמן, ראש יצרנית ChatGPT OpenAI , חתם על המכתב לצד המייסדים השותפים איליה סוצקבר, ג'ון שולמן ושלושה בכירים נוספים ב-OpenAI.
הושק לראשונה ב-2015 כמלכ'ר שמטרתו לפתח A.I. באופן בטוח, החברה הפכה להיברידית מודל 'מכסה רווח'. בשנת 2019. בנובמבר, הוא הוציא את A.I. צ'אטבוט ChatGPT, שהפך במהירות ויראלית ועורר חששות לגבי הפוטנציאל שלו לכתוב מטלות בית ספר ו להחליף את כוח העבודה.
הערכת השוק של OpenAI הייתה בין 27 ל-29 מיליארד דולר נכון לאפריל.
למרות תמיכתו באזהרה הדחופה של המכתב, אלטמן שיבח בעבר את עלייתו של A.I. מערכות. 'המהפכה הזו תיצור עושר פנומנלי', אמר ב-a פוסט בבלוג של 2021 . 'המחיר של סוגים רבים של עבודה (שמניע את עלויות הסחורות והשירותים) יירד לאפס ברגע ש-AI חזק מספיק 'תצטרף לכוח העבודה.'
ג'פרי הינטון, איי.איי. חָלוּץ
שני חברים בשלישיית מדעני מחשב המכונה 'הסנדקים של A.I'. גם הבטיחו את תמיכתם במכתב האחרון.
החתומים ג'פרי הינטון ויושע בנג'יו עבדו ב-A.I. בתחום במשך עשרות שנים, ועם יאן לקון, עזר להניח את הבסיס לפיתוח הטכנולוגיה. השלושה זכו בפרס טיורינג ב-2018.
הינטון ובנג'יו, כיום פרופסורים באוניברסיטת טורונטו ובאוניברסיטת מונטריאול בהתאמה, הביעו שניהם דאגות מההתקדמות של A.I.
מוקדם יותר החודש, אמר הינטון ל- ניו יורק טיימס הוא עזב את עבודתו ב גוגל לדבר על הסיכונים של A.I ., והוסיף כי כעת הוא מתחרט על מפעל חייו. 'קשה לראות איך אתה יכול למנוע מהשחקנים הרעים להשתמש בזה לדברים רעים', אמר.
בנג'יו הביע רגשות דומים ל BBC היום (31 במאי), חשיפת האיום של A.I. גרמה לו להטיל ספק בשנות המחקר שלו. 'אפשר לומר שאני מרגיש אבוד', אמר.
בינתיים לקון, ראש A.I. מדען ב-Meta, בחר שלא לחתום על המכתב.
דמיס חסאביס, מנכ'ל Google DeepMind
מספר עובדי גוגל, כולל יותר מעשרה עובדים עבור A.I למידת מכונה שלה. הסטארט-אפ DeepMind, חתומים על ההצהרה. הרשימה כוללת את מנכ'ל DeepMind ומייסד שותף Demis Hassabis, שעבד בעבר כ-A.I. מתכנת למשחקי וידאו בליונהד ואליקסיר.
DeepMind נרכשה על ידי גוגל ב-2014 תמורת כ-500 מיליון דולר. חסאביס הפציר בחברה לפעול בזהירות וטוען כי אינטליגנציה כללית מלאכותית (A.G.I), מונח המתייחס למחשבים בעלי יכולות קוגניטיביות דומות לזו של בני אדם, יכול להופיע בעשור הקרוב .
'הייתי תומך לֹא נע מהר ושובר דברים' סיפר חסביס זְמַן בינואר, והוסיף כי הוא מאמין שרווחים מ-A.G.I. יש לחלק מחדש באופן שווה.
עם זאת, החטיבה של חסביס תופסת קיטור בחודשים האחרונים. Google DeepMind הוקמה באפריל, לאחר שגוגל שילבה חטיבות ממוקדות בינה מלאכותית DeepMind ו-Brain כדי ' להאיץ את ההתקדמות לעבר עולם שבו AI יכול לעזור לפתור את האתגרים הגדולים ביותר העומדים בפני האנושות .' ומוקדם יותר השנה, גוגל הודיעה על רווחיה ברבעון הרביעי של 2022 שהמידע הפיננסי של DeepMind ידווח כעת תחת העלויות הארגוניות של Alphabet ככל שהוא נעשה יותר ויותר בשימוש על ידי החברה.
גריימס, מוזיקאי ומפיק
גריימס, המוזיקאית האקלקטית ושותפה הרומנטית לשעבר של מייסדת OpenAI מאסק, התנסתה בטכנולוגיה לאורך הקריירה שלה, בעיקר השתמשה בה כדי ליצור א.י. שיר ערש לבנה ו א.י. צ'אטבוט אימנה את הגינונים שלה.
'אני חושב ש-A.I. זה נהדר,' היא אמרה ל- ניו יורק טיימס. 'אני פשוט מרגיש כאילו, מבחינה יצירתית, אני חושב ש-A.I. יכול להחליף בני אדם'.
ה-A.I. פרויקט מבית Grimes, ששמה האמיתי הוא קלייר בוצ'ר, שוחרר החודש בדמות Elf.Tech, א.י. תוכנה המאפשרת למעריצים לשכפל את השירה שלה ליצור שירים משלהם. 'אני אוהב את הרעיון של מקורות פתוחים לכל אמנות ולהרוג זכויות יוצרים,' צייץ האמן, שמציע חלוקת תמלוגים של 50 אחוז לשירים מצליחים שמקורם ב-A.I. תכנית.
דריו אמודי, מנכ'ל אנתרופיק
אנתרופית דריו אמודי תמך בהצהרה לצד המייסדים השותפים ג'ארד קפלן וכריס אולה. גם אחותו דניאלה אמודי, נשיאת אנתרופיק, חתמה על המכתב.
אמודיי עבד בעבר ב-Google, Baidu ו-OpenAI לפני שעזב את החברה האחרונה ב-2020 כדי לעמוד בראש ה-A.I שלו. סטארט - אפ, שהוערך ב-4.1 מיליארד דולר במרץ .
גם הסטארט-אפ בגיבוי גוגל גייסה 450 מיליון דולר בסבב גיוס החודש, ה-A.I. סבב גיוס בשנת 2023 מאז השקעת OpenAI של מיקרוסופט מוקדם יותר השנה.
המוצר העיקרי של Anthropic הוא קלוד, צ'טבוט שהחלה לבדוק בינואר עם קבוצה נבחרת של משתמשים. קלוד הוכשר עם מערכת של הנחיות מוסריות על מנת להימנע מתגובות פוגעניות מהא.י. כלי צ'אט, ששואב מהצהרת האו'ם על זכויות אדם וכללי פרטיות הנתונים של אפל. תהליך הסטארט-אפ ליצירת 'A.I לא מזיק. עוזר” הונח ב-a נייר לבן של דצמבר .
מוקדם יותר החודש, לצד A.I. מנכ'לים כמו אלטמן, אמודי נפגש עם הנשיא ביידן לדון כיצד ליישם תקנות ב-A.I. התעשייה כדי להפחית את הסיכון שלה.
קווין סקוט, CTO במיקרוסופט
מנהלים מ-A.I. גם מעצמת הכוח מיקרוסופט חתמה על המכתב, כולל קצין הטכנולוגיה הראשי של החברה קווין סקוט.
מיקרוסופט היא משקיעה ב-OpenAI - שותפות שהורחבה בינואר בעסקה של מיליארדי דולרים. היא מפעילה את מנוע החיפוש שלה Bing עם ChatGPT.
סקוט, שאמר ש-2023 תהיה 't השנה המרגשת ביותר שבה ה-A.I. לקהילה הייתה אי פעם, ' טוענת שמיקרוסופט משפרת את ה-A.I האחראי שלה. תהליכים שנועדו לצמצם את הנזק של הטכנולוגיה.
אך למרות החתימה על הצהרה בטענה כי א.י. יש פוטנציאל להרוס את הציוויליזציה האנושית, סקוט חיבר את הספר מ-2020 תכנות מחדש את החלום האמריקאי , הטוען כי א.י. יכול לחולל מהפכה ביזמות בעיירות כפריות. מיקרוסופט גם התמקדה מאוד ב-A.I. בחודשים האחרונים, בטענה הדחיפה תביא להגדלת הרווחים עבור החברה לאורך זמן.
מה עוד מכתב פתוח ישיג?
העובדה שלכל כך הרבה חותמים יש קשרים פיננסיים עם א.י. חברות מחקר ופיתוח הובילו כמה לתהות האם הקריאות האחרונות לזהירות הן תעלול יחסי ציבור או אולי דרך להשיג יתרון תחרותי בתעשייה שהולכת וצפופה.
מוקדם יותר החודש, נשאל ה-CTO של מיקרוסופט האיזון בין A.I גדול חברות שמחפשות תקנות שמעדיפות רק אותן ונוף רגולטורי המורכב מסטארט-אפים תחרותיים קטנים יותר. 'אני חושב שאנחנו צריכים את שניהם,' אמר סקוט לִגבּוֹל . 'אני לא חושב שיש דבר אפריורי שבו אחד מונע את השני.'
אלטמן גם קרא ליותר רגולציה ב-A.I. התעשייה, מביע דאגה שהטכנולוגיה יכולה להינצל על ידי משטרים אוטוריטריים או להשתמש בה להתקפות סייבר, אך נראה שרצונו לפיקוח רגולטורי הוא סלקטיבי, כפי שגם אלטמן בעבר טען כי OpenAI עשויה לעזוב את האיחוד האירופי. בשל 'וויסות יתר' הפוטנציאלי של האזור של A.I.
שמן cbd הטוב ביותר להתקפי כלבים
התמקדות בהשלכות המטרידות-אך-לא-סבירות של A.I. היישום מסיט את תשומת הלב של הרגולטורים מהסיכונים הממשיים הנובעים מבינה מלאכותית, הציע פרופסור למשפטים מאוניברסיטת וושינגטון ריאן קאלו בסדרה של ציוצים . 'הטיפול בהשפעות המיידיות של AI על העבודה, הפרטיות או הסביבה הוא יקר. הגנה מפני AI איכשהו 'להתעורר' זה לא.'
