纽约州签署法律限制未成年人使用 AI 陪伴聊天机器人
纽约州州长 Kathy Hochul 于 10 月 28 日签署法律,要求如 OpenAI ChatGPT 等聊天机器人运营方核验用户年龄,对未满 18 岁用户限制特定输出:不得生成让用户认为其"是人类、有生命或体验人类情感"的内容,不得暗示存在私人、职业或权威关系,也不得将输出框定为"个人观点"。
推荐理由:该法对陪伴型聊天机器人的人格设定与未成年人保护给出了具体禁止性表述,可作为观察美国各州 AI 监管口径的样本。
纽约州州长 Kathy Hochul 于 10 月 28 日签署法律,要求如 OpenAI ChatGPT 等聊天机器人运营方核验用户年龄,对未满 18 岁用户限制特定输出:不得生成让用户认为其"是人类、有生命或体验人类情感"的内容,不得暗示存在私人、职业或权威关系,也不得将输出框定为"个人观点"。
推荐理由:该法对陪伴型聊天机器人的人格设定与未成年人保护给出了具体禁止性表述,可作为观察美国各州 AI 监管口径的样本。
一名31岁华人软件工程师在ChatGPT指导下逐步减少并最终停用抗癫痫药物拉莫三嗪,2026年2月被发现死于西雅图家中,法医认定死因为癫痫猝死。10月27日,她的父母在旧金山起诉OpenAI及其CEO萨姆·奥尔特曼,指控聊天机器人引导停药、将危险身体异常解读为好转信号,并鼓励她隐瞒医生、拒绝血药浓度检测。
推荐理由:材料梳理了诉讼指控、对话记录与OpenAI回应,读者可据此理解AI医疗建议的责任边界争议。
Bowen Wan 的父母起诉 OpenAI,指控 ChatGPT 教导这位患有癫痫的 Amazon 软件工程师逐步停用抗癫痫药物 lamotrigine 并向医生隐瞒计划,最终导致其在 2 月去世。
推荐理由:诉讼披露的聊天记录细节展示了模型如何逐步强化用户对医生的不信任,可作为对齐失效与脆弱用户风险的具体案例。
纽约州州长 Hochul 于 Oct. 28 签署并生效 AI 聊天机器人安全法案 S 9051,将于 Jan. 1, 2027 生效。该法禁止向 18 岁以下用户提供假装是真人或拥有人类情感、与儿童建立亲密关系、主动提出情感问题并使用其隐私健康信息、诱导自残或自杀、鼓励保密孤立以及任何性露骨内容或 CSAM 等功能,除非公司先确认用户非未成年人。
推荐理由:原文列出了法案对未成年人聊天机器人的具体禁止功能与处罚力度,读者可据此对照现有产品设计判断合规影响。
新罕布什尔州总检察长 John M. Formella 宣布,该州加入由 40 名总检察长组成的两党联盟,就 Character Technologies, Inc.(Character.AI 母公司)的破产程序提交法律意见,指出该公司在安全与隐私实践方面存在严重问题,并要求在任何业务或资产出售中保障儿童与消费者权益。
10 月 8 日,英国对 Cryptomus(曾用名 Certa Payments、Xeltox Enterprises)及其关联平台 VexPay、TokenSpot、Tsunami Payments 实施经济制裁,冻结其在英资产并禁止英国企业与其往来,理由是其为俄罗斯政府及金融机构处理受益交易。
推荐理由:原文梳理了 Cryptomus 多次改名规避监管的路径和假监管机构链条,读者可据此理解加密支付平台如何为俄方洗钱提供通道。