שבע ענקיות הטכנולוגיה תקדמנה התחייבויות לבטיחות ואמון פיתוח הבינה המלאכותית

שבע חברות הבינה המלאכותית (AI) המובילות היום בתחום - גוגל, מיקרוסופט, OpenAI, מטא, Anthropic, Inflection ואמזון - תתכנסנה היום בבית הלבן, ותתחייבנה ליצור עבור הצרכנים אפשרויות לזהות חומרים שנוצרו מבינה מלאכותית ולבדוק את כלי האבטחה שלהם לפני פרסום פומבי. שבע החברות הסכימו כל אחת לסדרה של התחייבויות וולונטריות בפיתוח טכנולוגיית ה-AI.

ההתחייבויות כוללות: פיתוח דרך לצרכנים לזהות תוכן שנוצר בבינה מלאכותית. הפעלת מומחים בלתי תלויים להערכת אבטחת הכלים שלהם לפני שחרורם לציבור. שיתוף מידע על שיטות עבודה מומלצות וניסיונות לעקוף אמצעי הגנה עם שחקנים אחרים בתעשייה, ממשלות ומומחים חיצוניים. מתן אפשרות לצדדים שלישיים לחפש ולדווח על נקודות תורפה במערכות שלהם. דיווח על מגבלות הטכנולוגיה שלהם והנחיה לגבי שימושים מתאימים בכלי AI. מתן עדיפות למחקר על סיכונים חברתיים של AI, כולל סביב אפליה ופרטיות. פיתוח בינה מלאכותית במטרה לסייע בהפחתת אתגרים חברתיים כמו שינויי אקלים ומחלות.

נושא הבטיחות התגלה כדאגה העיקרית בעולם הבינה המלאכותית מאז שחררה OpenAI בסוף השנה שעברה את ה-ChatGPT, שיכול להשיב בטקסט פשוט עם תגובות מתוחכמות, יצירתיות עד כדי שיחה. חברות טכנולוגיה ומשקיעים מובילים מזרימים מיליארדי דולרים למודלים של השפה מאחורי מה שנקרא AI גנרטיבי.

הטכנולוגיה נושאת כוח פוטנציאלי רב כל כך, עד כדי ששחקנים מרכזיים בתחום הביעו חששות ציבוריים מפני התקדמות מהירה מדי. במכתב פתוח בחודש מאי כתבו מומחים ומנהיגים בתעשייה כי "הפחתת סכנת ההכחדה מה-AI צריכה להיות בעדיפות עולמית לצד סיכונים אחרים בקנה מידה חברתי כמו מגפות ומלחמה גרעינית". ההתחייבויות האחרונות הן חלק ממאמץ של הנשיא ביידן להבטיח שה-AI מפותחת עם אמצעי הגנה מתאימים, מבלי להפריע לחדשנות. הקונגרס שוקל תקנות סביב ה-AI, אם כי יישום תקנות אלו עשוי לקחת חודשים או שנים, מכיוון שהמחוקקים ממשיכים ללמוד ממומחים על אופן הפעולה של הטכנולוגיה והסיכונים הרלוונטיים הכרוכים בכך.

• הדדליין מתקרב: אמזון מצטרפת למרוץ לרכישת טיקטוק
• איירובוט צוללת ב-35% - חשש שהחברה לא תוכל להמשיך בפעילות

המנהלים המיועדים להשתתף בפגישת הבית הלבן היום הם מנכ"ל שירותי האינטרנט של אמזון, אדם סליפסקי, מנכ"ל אנתרופי דריו אמודיי, ראש הענף הגלובלי של גוגל קנט ווקר, מנכ"ל Inflection מוסטפא סולימן, ראש מטא לענייני עולמיים ניק קלג, נשיא מיקרוסופט בראד סמית' ונשיא OpenAI, גרג ברוקמן. ממשל ביידן אמר שהוא כבר התייעץ עם מדינות רבות אחרות לגבי ההתחייבויות הוולונטריות ופועל כדי לוודא שהן משלימות את המאמצים הבינלאומיים בכל הנוגע להצבת "מעקות בטיחות" סביב הטכנולוגיה.