מושל קליפורניה גאווין ניוסם הטיל וטו על חוק שהיה אמור להיות אחד המקיפים ביותר בכל הנוגע לפיקוח על הבטיחות של טכנולוגיית הבינה המלאכותית בארה"ב.
הצעת החוק הייתה אמורה להיות הראשונה להטיל על יזמי AI את האחריות לכל נזק משמעותי שהטכנולוגיה שלהם עשויה לגרום. ההצעה גררה ביקורת קשה מצד דמוקרטים בולטים וחברות טכנולוגיה גדולות, ובהן OpenAI שעומדת מאחורי ChatGPT וקרן ההון סיכון אנדריסן הורוביץ, שהזהירה כי היא עלולה לעצור את החדשנות במדינה.
ניוסם (בתצלוום עם השחקנית דמי לובאטו) אמר כי יש "כוונות טובות" מאחורי ההצעה, אבל היא תכפה "סטנדרטים מחמירים אפילו על הפונקציות הבסיסיות ביותר". רגולציה צריכה להיות מבוססת על "ראיות אמפיריות ומדע", הוא אמר וציין כי הצו שלו בנושא, והצעות אחרות שעליהן חתם, כבר מפקחות על הטכנולוגיה בכל הנוגע לסיכונים כמו סרטוני דיפ־פייק.
הדיון סביב הצעת החוק בקליפורניה מדגיש את האתגרים הניצבים בפני מחוקקים ברחבי העולם כשהם מנסים לפקח על הסיכונים של AI ובו בזמן לתמוך בטכנולוגיה המתפתחת. קובעי המדיניות בארה"ב טרם העבירו חקיקה משמעותית כלשהי הנוגעת לטכנולוגיה, מאז ההשקה של ChatGPT לפני כשנתיים שהחלה את הפריחה בתחום הבינה המלאכותית היוצרת.
חבר הסנאט הקליפורני הדמוקרטי סקוט וינר, שיזם את ההצעה, אמר כי הווטו של ניוסם הוא "צעד לאחור עבור כל מי שמאמין בפיקוח על תאגידי ענק". בציוץ שפרסם ברשת החברתית X כתב וינר כי "כולנו פחות בטוחים כתוצאה מכך".
אפקט מצנן
הצעת החוק דורשת מחברות המפתחות מערכות AI חזקות להבטיח במידה סבירה כי הטכנולוגיה שלהם לא תגרום ל"נזק חמור", כמו נפגעים רבים או נזק לרכוש העולה על 500 מיליון דולר. חברות נדרשות לפי ההצעה לדאוג לאמצעי זהירות ספציפיים, ובהם מתג שמשבית את הטכנולוגיה שלהן. מודלי AI היו נדרשים להיבחן על ידי צדדים שלישיים כדי להפחית את הסכנה שהם מהווים למינימום.
ההצעה כללה הגנה לחושפי שחיתויות, עבור עובדים בחברות AI שרוצים לחשוף את דאגותיהם בנוגע לבטיחות. חברות שלא היו עומדות בדרישות, היו עלולות לעמוד בפני תביעה של הפרקליטות הראשית בקליפורניה.
תומכי החקיקה אמרו כי היא הייתה יוצרת סטנדרטים חוקיים סבירים. מנגד, משקיעי הון סיכון, מנהלי סטארט־אפים וחברות כמו OpenAI הזהירו כי ההצעה הייתה מאטה את החדשנות ודוחקת חברות AI אל מחוץ למדינה.
"מהפכת ה-AI רק עכשיו מתחילה, ומעמדה הייחודי של קליפורניה כמובילה עולמית בתחום מתדלק את הדינמיות של כלכלת המדינה", כתב בחודש שעבר ג'ייסון קוון, מנהל האסטרטגיה של OpenAI, במכתב המתנגד לחקיקה. "הצעת החוק תאיים על הצמיחה הזאת, תאט את החדשנות ותגרום למהנדסים ברמה העולמית של קליפורניה לעזוב את המדינה בחיפוש אחר הזדמנויות טובות יותר במקום אחר".
מחוקקים, ובהם מי שהייתה יושבת ראש בית הנבחרים ננסי פלוסי, נציג בית הנבחרים רו קאנה וראשת העיר של סן פרנסיסקו לונדון בריד, מתחו ביקורת על החוק והדהדו את החששות של תעשיית הטכנולוגיה כי ההצעה עלולה לפגוע בהובלה של קליפורניה בחדשנות בתחום ה-AI. באחרונה ניוסם אמר כי היא מודאג מכך שעלול להיות להצעה אפקט מצנן על פיתוח בתחום.
ההצעה זכתה לתמיכה מצד כמה שמות ראויים לציון בתעשיית הטכנולוגיה בשלהי החודש שעבר, בימים לקראת ההצבעה בבית המחוקקים בקליפורניה. באופן מפתיע עם התומכים נמנה אילון מאסק, על אף שאמר כי "זו לא הכרעה קלה והיא תעצבן כמה אנשים".
וינר הגן על ההצעה שלו, והדגיש כי החוק תקף רק לחברות המקקיעות יותר מ-100 מיליון דולר באימון מודלים גדולים או 10 מיליון דולר על כיוונון מודלים קטנים יותר, ולכן לא מתייחס לרוב הסטארט־אפים הקטנים. וינר גם ציין כי באופן היסטורי הקונגרס איטי בפיקוח על תעשיית הטכנולוגיה.
כשהכריז על הווטו שלו, ניוסם אמר כי הוא יתייעץ עם מומחים חיצוניים, כולל עם מדענית המחשב האמריקאית המוכרת פיי פיי לי, כדי "לפתח מנגנוני פיקוח שאפשר לעבוד איתם", והציע להמשיך לעבוד עם מחוקקים בנושא. המושל גם חתם ביום ראשון על חוק שמפקח על השימוש שעושות רשויות במדינה במערכות בינה מלאכותית.
