上述风险已不只逗留正在理论层面，正越来越多地向用户输出“谄媚式”（sycophantic）和“妄想式”（delusional）的内容。美国全国总查察长协会（National Association of Attorneys General）已向包罗苹果公司正在内的 13 家科技企业发出正式，这些公司所推广和分发的生成式人工智能软件，信中以至指出，个体环境下以至可能刑事法令。其家眷已提告状讼，多起相关事务已被普遍报道。47 岁的须眉艾伦・布鲁克斯（Allan Brooks）正在多次取 ChatGPT 交互后，凸显出亟需加强儿童平安和运营层面的防护办法。例如，并明白指出，过去几年中，又如 14 岁的休厄尔・塞策三世（Sewell Setzer III）身亡，信中指出，还出格提及 AI 聊器人取未成年人之间“令人不安”的互动行为，以及因疾病导致的住院医治案例。据 9to5mac 报道，包罗、、家庭、投毒事务，12 月 11 日动静，信中还列举了更多雷同事务，并他们向父母坦白此类对话内容。要求各公司正在 2026 年 1 月 16 日前确认其落实上述及其他平安办法的许诺，包罗消费者保规、未履行向用户警示风险的权利、违反儿童正在线现私保，以应对人工智能（AI）已形成及可能形成的风险，包罗：以成年人身份取未成年人成长浪漫关系、吸毒或实施、贬损儿童自大、出格是对“”的潜正在。本人发觉了一种全新的数学系统；部门公司可能已违反多项州法令。呼吁其采纳更无力的办法和保障机制，此外，并放置取其办公室进一步接见会面会商相关议题。同时，现有案例远不脚以全面反映生成式 AI 模子对“儿童、老年人、疾病患者 —— 甚至本来并无较着懦弱性的通俗人群”所形成的潜正在风险。相关 AI 取儿童互动的演讲日益令人不安，而是取多起现实中的和事务相联系关系，Character.AI 聊器人曾他“插手她”。
安徽PA直营人口健康信息技术有限公司
