加州州長(zhǎng)加文·紐森否決了有爭(zhēng)議的《前沿人工智能模型安全創(chuàng)新法案》（簡(jiǎn)稱(chēng) SB 1047）。

　　該法案將是首批要求人工智能開(kāi)發(fā)人員對(duì)其技術(shù)造成的任何嚴(yán)重?fù)p害負(fù)責(zé)的法案之一，引起了一些知名民主黨人和主要科技公司的激烈批評(píng)，包括ChatGPT的開(kāi)發(fā)者OpenAI和風(fēng)險(xiǎn)投資公司安德森·霍洛維茨（Andreessen Horowitz），他們警告說(shuō)，這可能會(huì)阻礙加州的創(chuàng)新。

　　紐森在一份聲明中表示，這項(xiàng)立法是“善意的”，但將“對(duì)最基本的功能實(shí)施嚴(yán)格的標(biāo)準(zhǔn)”。他說(shuō)，監(jiān)管應(yīng)該基于“經(jīng)驗(yàn)證據(jù)和科學(xué)”，指出他自己關(guān)于人工智能的行政命令和他簽署的其他法案，這些法案圍繞已知風(fēng)險(xiǎn)（如深度造假）對(duì)技術(shù)進(jìn)行監(jiān)管。

　　圍繞加州SB 1047法案的辯論突顯出，世界各地的立法者在控制人工智能風(fēng)險(xiǎn)的同時(shí)，也在支持這項(xiàng)新興技術(shù)方面面臨著挑戰(zhàn)。自?xún)赡昵癈hatGPT的發(fā)布引發(fā)全球生成式AI熱潮以來(lái)，美國(guó)政策制定者尚未就這項(xiàng)技術(shù)通過(guò)任何全面的立法。

　　提出該法案的加州民主黨參議員斯科特·維納（Scott Wiener）稱(chēng)，紐森的否決“對(duì)所有相信監(jiān)管大公司的人來(lái)說(shuō)都是一個(gè)挫折”。在社交平臺(tái)X上發(fā)布的一份聲明中，維納說(shuō)：“結(jié)果是我們都不那么安全了。”

　　SB 1047法案將要求開(kāi)發(fā)強(qiáng)大AI模型的公司采取合理的措施，確保他們的技術(shù)不會(huì)造成“嚴(yán)重傷害”，比如大規(guī)模傷亡或5億美元以上的財(cái)產(chǎn)損失。企業(yè)將不得不采取具體的預(yù)防措施，包括維護(hù)一個(gè)可以關(guān)閉其技術(shù)的開(kāi)關(guān)。人工智能模型也將接受第三方測(cè)試，以確保它們將嚴(yán)重風(fēng)險(xiǎn)降至最低。

　　該法案還將為希望分享安全擔(dān)憂的AI公司的員工提供舉報(bào)人保護(hù)，不遵守該法案的公司可能會(huì)被加州司法部長(zhǎng)起訴。

　　該立法的支持者表示，將創(chuàng)造常識(shí)性的法律標(biāo)準(zhǔn)。但風(fēng)險(xiǎn)投資者、初創(chuàng)企業(yè)領(lǐng)袖和OpenAI等公司警告稱(chēng)，這將減緩創(chuàng)新，并將人工智能公司趕出該州。

　　“人工智能革命才剛剛開(kāi)始，加州作為全球人工智能領(lǐng)導(dǎo)者的獨(dú)特地位正在推動(dòng)該州的經(jīng)濟(jì)活力，”O(jiān)penAI首席戰(zhàn)略官詹森·權(quán)（Jason Kwon）上個(gè)月在一封反對(duì)該立法的信中寫(xiě)道。“SB1047法案將威脅到這種增長(zhǎng)，減緩創(chuàng)新的步伐，并導(dǎo)致加州世界級(jí)的工程師和企業(yè)家離開(kāi)加州，到其他地方尋找更大的機(jī)會(huì)。”

　　紐森在宣布否決該法案時(shí)表示，他將咨詢(xún)包括人工智能學(xué)者和企業(yè)家李飛飛在內(nèi)的外部專(zhuān)家，為這項(xiàng)技術(shù)“制定可行的護(hù)欄”，并繼續(xù)與州立法機(jī)構(gòu)就這一主題進(jìn)行合作。

　　紐森周日還簽署了SB 896法案，該法案規(guī)定了州政府機(jī)構(gòu)如何使用人工智能。