החל מה-20 ביולי, OpenAI יש ל משך בשקט את התקע על ה-A.I שלהם. תוכנת זיהוי, AI Classifier, המצטטת אותה 'שיעור דיוק נמוך.' אם זו הפעם הראשונה שאתה שומע על זה, אל תתפלאו - OpenAI קברה את החדשות כל כך עמוק מתחת לאדמה שלקח שבוע עד שמישהו בכלל שם לב שהיא שם.
סופו של AI Classifier לא הגיע ברעש, אלא ביבבה. במקום להכריז על השינוי בהצהרה, OpenAI הורידה את דף הנחיתה של AI Classifier, שכעת פשוט מציג הודעת שגיאה , לאחר מכן נערך בשני משפטים המודיעים למשתמשים על הפסקת השימוש של הכלי בחלק העליון של פוסט בבלוג של ינואר שהשיק לראשונה את המוצר. בפוסט המעודכן, OpenAI אמרה שהחברה 'חוקרת טכניקות מקור יעילות יותר'.
OpenAI סירבה להגיב מעבר לפוסט הבלוג של ינואר.
זה שלום טרי שווה את זה
חוסר הדיוק של AI Classifier הוא לא בדיוק הלם, בהתחשב בכך שההכרזה הראשונית שלו השקיעה יותר מילים בפירוט האזהרות והמגבלות שלו מאשר החוזקות שלו. כלי הזיהוי הצליח לזהות כהלכה רק 26 אחוזים מהטקסט שנכתב ב-A.I, ובאופן מדאיג יותר, ירק תוצאות חיוביות שגויות (הערכות שקבעו שטקסט שנכתב על ידי אדם הוא גניבת עין מ-A.I) 9 אחוזים מהמקרים, לפי OpenAI.
למחנכים, א.י. גלאי גניבת עין מביאים הרבה יותר סכנות מאשר יתרונות
הסגירה של AI Classifier מדאיגה במיוחד את מגזר החינוך. היצירה של ChatGPT שלח מוסדות אקדמיים לטרוף ככל שהתברר שסטודנטים הולכים וגדלים להסתמך על A.I. ל כמעט הכל . א.י. תוכנת זיהוי נתפסה במקור כאחד המגדלורים הבודדים הזמינים להנחות מורים בים הסוער של גניבת דעת שנוצרה על ידי A.I, אבל נראה שהאור הזה עשוי להבהב החוצה.
מארק ווטקינס, פרופסור באוניברסיטת מיסיסיפי המתמחה ב-A.I. בחינוך, רואה בכיבוי של AI Classifier סמל לבעיה גדולה יותר.
'זוהי הכרה בכך [א.י. תוכנת זיהוי] לא ממש עובדת על כל הלוח', אמר לאובזרבר, וציין את אוניברסיטת פיטסבורג. השימוש שהופסק לאחרונה של א.י. כלי זיהוי Turnitin מטעמי דיוק.
'בהתחשב בכך שהכלי שוחרר בינואר ואז נסגר עד יולי, זה נראה כמו אינדיקציה די ברורה שזה לא עובד', אמר ווטקינס מ-AI Classifier.
ווטקינס הוא לא האדם היחיד שמאבד אמון ב-A.I. טכנולוגיית זיהוי; בסקר בטוויטר שפורסם ב-25 ביולי, רק 15.3 אחוזים מ-667 המשיבים אמרו שהם מאמינים שזה אפשרי עבור כל אחד ליצור גלאי מדויק באופן עקבי.
לאור @OpenAI כיבוי כלי זיהוי הבינה המלאכותית שלו עקב דיוק לקוי, האם לדעתך מישהו יוכל אי פעם ליצור גלאי שיזהה במדויק תוכן שנכתב בבינה מלאכותית?
באיזה אי יש ריצ'רד ברנסון— DataChazGPT 🤯 (לא בוט) (@DataChaz) 25 ביולי 2023
אחרי הכל, אם OpenAI, החברה שמאחורי ChatGPT, לא תוכל לקבוע איזה טקסט נוצר על ידה שֶׁלוֹ אלגוריתם, קשה לדמיין כלי זיהוי אחרים כמו GPT-0 או Originality.AI מצליחים הרבה יותר.
ההשלכות של A.I לא מדויק. זיהוי עמוק יותר מאשר רק חסר של כמה מסמכים שנכתבו ב-GPT. כסטודנט מאוניברסיטת קליפורניה גילה ממקור ראשון באביב הזה, A.I. גלאי גניבת עין יכולים להיות מרוצים מההאשמות שלהם ובסופו של דבר לגרום למורים לדווח באופן שגוי על תלמידים על חיבורים שנכתבו לחלוטין ללא השפעה מבחוץ.
תאריך השכרת ספיידר מן השיבה הביתה
גם התוצאות השגויות הללו אינן אקראיות. לדוגמה, 'סטודנטים שאינם דוברי אנגלית ציונים נמוכים יותר בתמיהה, אחת המסגרות העיקריות A.I. גלאים משתמשים כדי לקבוע A.I. טקסט שנוצר', אמר ווטקינס, 'מה שאומר שדוברים שאינם דוברי שפת אם יסווגו בטעות בשיעורים גבוהים בהרבה.'
למרות שלסוף של AI Classifier יש השפעה מוחשית מועטה מאוד (ישנם עוד אלפים באינטרנט), הוא מסמל משהו הרבה יותר גדול: חוסר הכשירות הנרחב של הפילטרים הטכנולוגיים הנוכחיים ל-ChatGPT.
ווטקינס אמר ל-Observer שהוא לא 'תומך או ממליץ על אף אחד מכלי הזיהוי' הזמינים כיום, ועם הנסיגה המבוכה של OpenAI מהחזית של תוכנת הסיווג, לא קשה להבין מדוע.
