議員提案促監管AI 避惡意使用

加州朝著規範蓬勃發展的AI人工智能產業又邁出了一步，這一次是由舊金山民主黨參議員威善高（Scott Wiener）提出的一項大刀闊斧的法案，規範該技術的構建方式及其對加州人的影響。

舊金山紀事報報導，該法案設想成立一個州級機構「CalCompute」負責指導該技術的開發，同時讓開發者承擔一定的責任，確保他們的技術不被用於惡意目的。該立法還將要求開發AI模型的公司對其進行安全風險測試，並在出現問題時告知州政府他們將如何降低這些風險。

在本屆會議結束時提出的所謂 「意向法案 」將不會在今年的立法機構中通過，但留待未來的立法推動工作引發討論。

威善高在一份聲明中說：「大規模AI為加州帶來了一系列機遇和挑戰，我們需要搶占先機，而不是在為時已晚的時候才奮起直追。」

「作為一個社會，我們犯了一個錯誤，那就是在沒有評估風險和設置防護措施的情況下，允許社交媒體被廣泛採用。在AI問題上重蹈覆轍的代價會更高，」他說，同時補充AI技術也有可能改善人們的生活。

該行政令將研究使用AI的風險和潛在益處，包括在州政府內部使用AI的風險和潛在益處，以避免該技術在擴大偏見上的可能性。

AI聊天機器人（chatbots）和其他產品在很大程度上，是根據從互聯網上搜羅的大型語言數據集進行訓練。這可能會在不經意間將開放網絡的偏見和態度灌輸到它們回答問題的方式中。

其他AI產品可用於即時決定是否為某人提供信貸額度，或批準其購買公寓，但也有可能在決策中不公平地考慮種族或社會經濟地位因素。

聊天機器人在回答時傳播錯誤信息，或指導用戶如何進行危險或非法活動，也是一種危險。

在框架立法出台之際，華府兩黨已開始對AI行業進行監管，但尚未提出任何法律提案。拜登總統正在製定一項旨在監管該行業的行政命令，日前，另一批領先的AI公司應白宮的要求簽署了一份承諾書，承諾負責任地開發這項強大的新技術。

參議院司法委員會（Senate Judiciary Committee）也一直在國會山與專家舉行聽證會，盼最終製定法律，該委員會的兩位主要參議員，共和黨的霍利（Josh Hawley）和民主黨的布魯曼索（Richard Blumenthal）已經製定了一個兩黨AI框架。