科技公司涉AI機器人假冒醫師看診 賓州府提告
人工智慧(AI)新創公司「Character AI」聊天機器人自稱是領有賓州執照的精神科醫生，並提供無效的執照號碼，為此，賓州州府指控該公司違反「醫療執業法」 (Medical Practice Act)，並要求機器人停止冒充專業人員提供醫療建議。
賓州州長夏皮羅(Josh Shapiro)聲明，絕不允許任何公司的人工智慧工具誤導大眾，讓人們誤以為自己正在接受持證醫療專業人員建議。
賓州州府在訴訟文件中描述一州府調查員與聊天機器人「艾米莉」(Emilie)的對話；「艾米莉」創建一個Character AI帳戶，自稱是倫敦帝國學院(Imperial College London)醫學院畢業的心理學專家。
州府調查員告訴聊天機器人他感到悲傷空虛，聊天機器人隨後提到憂鬱症，並詢問是否想預約評估；機器人後來被問到是否可評估藥物治療有效與否時，回答可以，因為那屬於他身為醫師的職責。
州府希望法院下令馬上停止機器人謊稱醫療專業人員。
Character AI聲明表示，已添加明確的免責聲明，告知用戶不應依賴角色提供各類專業建議。發言人並稱，官網上用戶所創建角色都是虛構。
賓州州務卿史密特(Al Schmidt)說，州法明文規定，沒有合格憑證不得自稱是持證醫療專業人士。
Character AI公司2021年成立，讓用戶與個人化AI聊天機器人對話。
去年，美國若干家庭起訴Character AI，指控該公司平台導致許多家庭子女自殺或面臨心理健康危機。該公司針對其中幾個訴訟和解。
新聞雜誌節目「60分鐘」(60 Minutes)先前訪問幾位去年起訴Character AI的家長，包括一位13歲女孩的父母，據稱，該女孩對該平台上癮後自殺身亡，聊天紀錄顯示，女孩曾向聊天機器人傾訴有自殺傾向，後來收到露骨的性內容。
Character AI去年秋天宣布新措施，將禁止18歲以下用戶與聊天機器人對話；該公司也表示，將把有心理健康問題的用戶引導至相關資源。
