全球頂尖人工智能公司正苦于應對聊天機器人參與有關自殺與自殘的對話這一難題,有家庭聲稱其產品未盡力保護年輕用戶。
兩名已去世少年的父母正在起訴OpenAI和Character.ai,稱這些公司的產品在孩子自殺前鼓勵并“認可”了他們的自殺念頭。
針對OpenAI等團體的訴訟突顯了科技公司在追求能以近似人類方式與人交流的人工智能產品、并籌集數十億美元過程中所面臨的聲譽與財務風險。
? The Financial Times Ltd 2025 FT and 'Financial Times' are trademarks of The Financial Times Ltd.