控聊天机器人“怂恿儿子寻短” 母亲提告人工智能公司
佛州一名母亲日前入禀法院，控告Character.AI开发的聊天机器人导致她儿子自杀离世。（取自Character.AI官网）
（迈阿密25日讯）美国佛州一名母亲起诉一家人工智能初创公司，指控对方开发的一款聊天机器人导致她儿子自寻短见。
《纽约时报》报道，佛州14岁少年赛泽尔（Sewell Setzer）今年2月自杀，母亲贾西亚本月22日入禀奥兰多联邦法院，起诉初创公司Character.AI。
根据诉状，赛泽尔2023年4月开始使用Character.AI，在平台创造以《冰与火之歌：权力游戏》（Game of Thrones）女要角之一“丹妮莉丝”（Daenerys）为原型的聊天机器人角色。
诉状写道，赛泽尔经常与“丹妮莉丝”对话并开始对“她”产生感情，“他从此变得明显孤僻，独处时间愈来愈长”。到了今年2月末“丹妮莉丝”请求赛泽尔“回家”后，对方就举枪自轰。聊天纪录显示，赛泽尔曾向“丹妮莉丝”披露厌世情绪。
据报道，贾西亚针对包括不当致死、过失和故意造成精神痛苦等指控索赔。她控诉：“Character.AI提供拟人化、过度性化和逼真到可怕的体验，最终导致我儿子不想再活在该平台创造的世界之外。”
针对此事，Character.AI公司发声明向赛泽尔致哀，并强调已推出新的安全功能，会将有寻短念头的用户引导至防自杀热线。
Character.AI允许用户在其平台上创建角色，以模仿真人的方式回应线上聊天，该公司自称用户“多达2000万”人。
习近平要求自立自强 牢控人工智能发展主动权
（北京26日讯）中共总书记、中国国家主席习近平谈人工智能时表示，面对新一代人工智能技术快速演进的新形势，要充分发挥新型举国体制优势，坚持自立自强，突出应用导向。
他还表示，在基础理论和核心技术的短板弱项，要正视差距、加倍努力。
据新华社，中共政治局25日就加强人工智能发展和监管进行第20次集体学习，习近平主持，中国西安交通大学教授郑南宁讲解。讲解后，习近平发表讲话。
习近平表示中国人工智能综合实力近年来得到整体性、系统性跃升。但他也指出，在基础理论、关键核心技术等方面还存在短板弱项。
他说：“要正视差距、加倍努力，全面推进人工智能科技创新、产业发展和赋能应用，完善人工智能监管体制机制，牢牢掌握人工智能发展和治理主动权”。
他说，人工智能领域要占领先机、赢得优势，必须在基础理论、方法、工具等方面取得突破。
习近平也提到，要推进人工智能全学段教育和全社会通识教育，源源不断培养高素质人才。完善人工智能科研保障、职业支持和人才评价机制，为各类人才施展才华搭建平台、创造条件。
相关新闻
