伊州禁用AI做心理治療 聊天機器人不得推廣為治療工具

伊利諾州上周宣布禁止在心理治療中使用人工智慧，加入少數幾個州的行列，著手監管AI在情感支持和諮詢方面的使用情形。

伊利諾州合格心理治療師從現在開始，不得在醫療決策和與病患溝通時使用AI，但仍可在行政工作使用AI；公司行號也不可以在沒有合格證照專業人士的監督下，提供AI治療服務或將聊天機器人推廣為治療工具。內華達州在6月時也針對提供治療服務的AI公司，通過了一項類似的限制措施，猶他州則是在5月收緊對AI在心理健康領域使用的監管，但並未完全禁止AI的使用。

這項禁令發布同時，相關領域的專家也對未經過監管機構審核之聊天機器人治療其安全性和有效性的潛在風險，提出警告；目前已經出現聊天機器人對弱勢群體給出傷害性建議，或使用者在不知情的情況下，其與聊天機器人透露的個人訊息被分享給第三者的案例。

一些人工智慧和精神病學專家表示，他們歡迎在以人為中心的微妙領域中，對這種不可預測的技術加以立法限制。

曾撰寫有關AI治療應用研究報告的史丹福大學研究生摩爾(Jared Moore)指出：「我認為，關於這工具的欺騙性行銷很明顯。你不應該去到ChatGPT商店裡，與所謂的『有治療證照』機器人互動。」

保守派智庫「美國企業研究所」(American Enterprise Institute)資深研究員萊因哈特(Will Rinehart)表示，伊利諾州的禁令要如何在現實中發揮作用，仍有待觀察；他指出，取決於當局如何解讀其對治療服務的定義，要實際執行這項法律，恐有難度；AI公司是否可以透過在其網站上附加免責聲明來遵守規定，任何自稱是治療師的AI聊天機器人又是否會受到處罰？

負責執行該禁令的伊州金融與專業監管廳(Illinois Department of Financial and Professional Regulation)廳長特雷托(Mario Treto Jr.)拒絕討論具體案例，但表示在評估案件時會參考「法律條文」。

根據伊州法規，除非由持牌專業人士進行，否則AI公司不得提供或宣傳「能診斷、治療或改善個人心理健康或行為健康的服務。」

特雷托表示，將會根據投訴來執法，其部門團隊會透過部門現有，處理無證或有證專業人士不當行為舉報的程序，來進行調查；根據該法案，違規者將面臨不超過1萬元的民事罰款。