①周三,OpenAI對加州一項旨在確保強大人工智能安全部署的法案進行了猛擊抨擊; ②反對者陣營包括斯坦福大學教授李飛飛、前百度首席科學家吳恩達等AI行業(yè)大佬; ③他們正試圖趕在月底的州議會投票前,發(fā)動阻止該法案通過的游說狂潮。
財聯(lián)社8月22日訊(編輯 瀟湘)當?shù)貢r間周三,OpenAI對加州一項旨在確保強大人工智能安全部署的法案進行了猛擊抨擊,從而加入了包括斯坦福大學教授李飛飛、前百度首席科學家吳恩達等AI行業(yè)大佬的行列。反對者試圖趕在月底的州議會投票前,共同發(fā)動阻止該法案通過的游說狂潮……
根據(jù)業(yè)內媒體看到的一封周三寄給加州參議員Scott Wiener辦公室的信,OpenAI首席戰(zhàn)略官Jason Kwon在信中寫道,這項由議員Wiener牽頭發(fā)起的SB-1047法案,將損害人工智能行業(yè)的創(chuàng)新。
OpenAI方面在信中認為,對這一問題的監(jiān)管應來自聯(lián)邦政府而非各州。其同時還擔心,如果該法案獲得通過,可能會對美國的人工智能競爭力和國家安全產生“廣泛而重大”的影響。
SB-1047法案于今年2月份在加州參議院首度被提出,該法案旨在為超過特定規(guī)模和成本門檻的大型人工智能模型的公司,制定其所稱的“常識性安全標準”。法案將要求人工智能公司采取措施,防止AI模型造成“嚴重危害”,如促成可造成大規(guī)模人員傷亡的生物武器的開發(fā);或指示人工智能模型策劃網(wǎng)絡攻擊從而造成超過5億美元的損失。
法案覆蓋的模型規(guī)模范圍如下:
在2027年1月1日之前,(i)使用超過10^26次整數(shù)或浮點運算的計算能力進行訓練的人工智能模型,其成本超過一億美元——該成本是根據(jù)開發(fā)者合理評估的訓練開始時云計算的平均市場價格計算得出的。(ii)利用等于或大于10^25次整數(shù)或浮點運算三倍的計算能力,對范圍內的模型進行微調而創(chuàng)建的人工智能模型,其成本經(jīng)開發(fā)者合理評估超過一千萬美元。
這一范圍其實已基本覆蓋了現(xiàn)在市面上主流的大語言模型,OpenAI的GPT4模型顯然也在此列。因而如果法案通過,這些模型都將需要被額外監(jiān)管。
根據(jù)這項SB-1047法案,企業(yè)需要確保AI系統(tǒng)可以隨時關閉,采取“合理的謹慎措施”確保AI模型不會造成災難,并向加州總檢察長披露合規(guī)聲明。如果企業(yè)不遵守這些要求,可能會被起訴并面臨民事處罰,若向該政府機構虛假陳述模型的功能,甚至可能會最終使開發(fā)人員因偽證而入獄。
法案中還加入了吹哨人保護條款,保護和鼓勵AI開發(fā)實體內部的舉報者,確保員工可以在不受報復的情況下報告企業(yè)的不合規(guī)情況。
備受爭議
可以說,SB-1047法案在年內早些時候一經(jīng)公布,就遭到了許多大型科技公司、初創(chuàng)企業(yè)和風險投資家的激烈反對。
他們認為,對于一項仍處于起步階段的技術來說,該法案過于寬泛,可能會扼殺加州的科技創(chuàng)新。該法案的一些批評者還擔心,它可能會把人工智能公司趕出加州。OpenAI在最新給Wiener辦公室的信中也表達了同樣的擔憂。
Kwon在信中寫道,“人工智能革命才剛剛開始,而加州作為人工智能領域全球領導者的獨特地位,正在推動加州的經(jīng)濟活力。SB-1047法案將威脅到這種增長,減緩創(chuàng)新步伐,并導致加州的世界級工程師和企業(yè)家離開當?shù)?,到其他地方尋找更大的機會?!?/p>
OpenAI認為,白宮科技政策辦公室、商務部和國家安全委員會等聯(lián)邦機構,比加州州級政府機構更適合管理關鍵的人工智能風險。該公司表示,它支持幾項擬議的聯(lián)邦立法,例如《人工智能創(chuàng)新未來法案》,該法案為新的美國人工智能安全研究所提供了國會支持。
據(jù)一位熟悉該公司房地產計劃的人士透露,由于擔心加州監(jiān)管環(huán)境的不確定性,OpenAI已經(jīng)擱置了擴建舊金山辦公室的討論,該人士要求匿名。
除OpenAI外,當前市場上的許多批評者也認為,該法案要求企業(yè)向州政府提交有關其模型的詳細信息,這將阻礙創(chuàng)新,同時也會阻止較小的開源開發(fā)者創(chuàng)建初創(chuàng)企業(yè),因為他們害怕被起訴。
斯坦福大學教授、人工智能知名學者李飛飛本月早些時候就剛剛牽頭撰寫了一封聯(lián)名信。她表示,“加州的SB-1047法案將產生重大而意想不到的后果。如果通過成為法律,其將損害正在萌芽的人工智能生態(tài)系統(tǒng)。SB-1047法案也將不必要地懲罰開發(fā)人員,扼殺開源社區(qū),并阻礙人工智能學術研究,同時仍無法解決其旨在解決的真正問題?!?/p>
然而對于AI行業(yè)眼下愈發(fā)洶涌的反對聲,該法案的發(fā)起者Wiener卻依然并不以為意。Wiener在周三的最新回應中表示,他同意聯(lián)邦政府應發(fā)揮主導作用,但對國會是否會采取行動表示“懷疑”。
他還批評了市場上那些“陳詞濫調”的說法——即如果該法案獲得通過,科技初創(chuàng)企業(yè)就會搬走,并表示總部設在州外的公司仍需遵守該法案,才能在當?shù)亻_展業(yè)務。Wiener在周三寫道:“底線是:SB-1047是一項非常合理的法案,它要求大型人工智能實驗室做他們已經(jīng)承諾要做的事情,即測試他們的大型模型是否存在災難性的安全風險?!?/p>
據(jù)悉,加州議會將在本月底對該法案進行投票。如果獲得通過,加州州長紐森(Gavin Newsom)將決定是將其簽署為法律還是予以否決。