OpenAI发布青少年AI安全标准蓝图

OpenAI发布了一项关于青少年人工智能安全标准的蓝图，旨在确保青少年在使用人工智能产品和服务时得到充分的保护，该蓝图强调了对数据隐私、算法透明度以及人工智能应用的合理使用的重视，并为此制定了一系列标准和指导原则，此举旨在促进人工智能技术的健康发展，保护青少年免受潜在风险，摘要字数控制在100-200字以内。

OpenAI于本周四发布了针对青少年使用人工智能的安全标准蓝图，并希望立法者能据此制定相关政策。该蓝图由OpenAI首度向Axios共享，意在引导公众与政策制定者关注青少年安全与AI应用规范。

此举的背景是多州正在考虑AI安全法案，而美国参议院也在推动一项禁止未成年人使用聊天机器人的法案。与此同时，OpenAI因一起涉及未成年人自杀的高调诉讼案正在接受外界审视，公众普遍关注其平台对青少年用户的安全防护措施。此外，OpenAI正积极推动AI在学校中的应用，因此这些安全框架显得尤为重要和迫切。

OpenAI在蓝图中提出，应让青少年能够安全、可信地接触AI，但同时必须防范其可能带来的伤害。蓝图指出：“我们认为ChatGPT应根据使用者的年龄作出不同回应，针对15岁的青少年和成年人应有区别。”

公司提出了五项针对青少年保护的建议：

• 识别平台上的青少年用户，并以适合年龄的方式进行处理；

• 通过相关政策，防止AI系统描绘自杀及自残内容、禁止敏感及暴力内容，不鼓励危险行为或不切实际的身体标准；

• 在无法确定用户年龄时，默认以未满18岁体验进行处理；

• 为家庭提供家长控制工具，允许家长管理青少年账户使用情况；

• 拓展更多基于青少年与AI相关最新研究成果的防护功能。

技术平台的年龄验证极具挑战性，许多未成年人仍可以轻易绕过现有规则。OpenAI正寻求通过多元措施提升青少年用户安全，推动更多家庭和学校共同参与AI规范及监督工作。