OpenAI拟放开情色内容引爆舆论，奥特曼：我们不是道德警察
10月16日消息，拟放OpenAI首席执行官萨姆·奥特曼（Sam Altman）有关放宽限制、开情允许聊天机器人ChatGPT生成情色内容的色内兰州市某某国际贸易制造厂决定引发了争议，他对此于周三回应称，容引公司“并非世界道德警察”。爆舆
近几个月来，论奥由于在用户保护（尤其是道德未成年人保护）方面面临着日益严格的审查，OpenAI已强化了其安全管控。警察
但奥特曼周二在社交媒体平台X发帖称，拟放鉴于公司已拥有新工具，开情并能够缓解“严重心理健康问题”，色内兰州市某某国际贸易制造厂OpenAI现在将可以“安全放宽”大部分限制。容引他补充说：“我们曾对ChatGPT施加了相当严格的爆舆限制，以确保在处理心理健康问题时足够谨慎，论奥但这也导致其对许多没有这类问题的道德用户而言，实用性与趣味性均有所降低。”
奥特曼还表示，从12月起，ChatGPT将面向“通过身份认证的成年用户”开放包括情色内容在内的更多内容。
周三，奥特曼试图在X平台澄清这一举措。他表示，OpenAI“高度重视 ‘将成年用户视为成年人对待’的原则”，但仍会禁止“对他人造成伤害的内容”。
奥特曼写道，“就像社会对其他领域设有适当边界（比如R级电影），我们希望采取类似做法。”
这番言论与今年8月份奥特曼在一次播客节目中的表态形成强烈反差。当时他曾自豪地表示，OpenAI能够抵制“虚拟性爱机器人”等某些可能提升ChatGPT用户参与度的功能。
他当时说道，“有很多短期手段确实可以刺激增长或收入，但与我们的长期目标严重不符。”
去年9月份，美国联邦贸易委员会（FTC）就ChatGPT等聊天机器人可能对儿童和青少年产生的负面影响，对OpenAI及其他科技公司展开调查。OpenAI还卷入了一起过失致死诉讼，有家庭指责ChatGPT导致他们十几岁的儿子自杀身亡。
在遭遇调查及诉讼后的数月间，公司采取多项公开措施来加强ChatGPT的安全防护。上月底，OpenAI推出一系列家长控制功能，并且还在开发能自动为18岁以下用户应用青少年适用模式的年龄预测系统。
本周二，OpenAI宣布成立由8名专家组成的委员会，专门评估AI对用户心理健康、情绪以及动机的影响。也正是在当日，奥特曼发布了一则关于放宽限制的推文，在社交媒体上引发了困惑和大量争议。
奥特曼坦言，此事引发的反响“远超他的预期”。
奥特曼的最新言论也引起美国“国家反性剥削中心”（National Center on Sexual Exploitation）等组织的注意。该机构周三发表声明，呼吁OpenAI撤销在ChatGPT上放开情色内容的决定。
该中心执行董事海莉·麦克纳马拉（Haley McNamara）在周三的一份声明中表示，“在行业安全标准尚不明确的背景下，性化的AI聊天机器人存在固有风险，其产生的虚拟亲密关系会造成真实的心理健康伤害。”
科技媒体The Verge提到，涉足情色领域的公司并非只有OpenAI。埃隆·马斯克（Elon Musk）创办的人工智能公司xAI此前就曾推出具有调情功能的AI伴侣，在Grok应用中以3D动漫模型的形象出现。
新闻网站Axios则指出，OpenAI的这一举措可能有助于其吸引付费订阅用户，但也很可能刺激立法者加强对AI内容的监管力度。报道称，参议员乔希·霍利（Josh Hawley）正在传阅一份法案草案，该法案将禁止未成年人使用AI伴侣。
Axios的报道还提到，从历史上看，从录像机到数字视频以及互动游戏，色情产业一直在推动技术前沿的发展。尽管成人娱乐并非顶尖人工智能研发背后的主要驱动力，但一个庞大的AI生成色情内容产业已然形成。其中，马斯克的Grok在此方面一直最为宽容，尤其是其还提供了专为性角色扮演设计的AI伴侣。Meta公司也因其聊天机器人与未成年人进行涉性对话而备受抨击，其中一些机器人还模仿了特定名人。
但Axios的另一篇报道则引述了著名科技投资人马克·库班（Mark Cuban）的反对意见。他公开批评此举可能“适得其反”，特别担忧年龄验证机制被突破后，导致未成年人接触到不当内容的风险。
《福布斯》的报道也提到，随着OpenAI和其他人工智能公司的聊天机器人日益普及，它们会受到越来越严格的审查。一些心理健康和儿童安全组织要求OpenAI对ChatGPT实施进一步限制，因为他们指出，用户在情绪困扰时会更多地使用这款聊天机器人，而且儿童可能会接触到露骨的性内容；而专家们则声称，对于寻求情感认同的年轻用户而言，这项技术可能构成心理威胁。（辰辰）
延伸阅读 (责任编辑：热门资讯)
2024中国仪器仪表学会学术年会大咖谈
媒体：路虎司机打人事件，需要一场“教科书式”普法
给冷门绝学的传承增添青春力量（微观）
9月MPV销量榜大洗牌，魏牌高山首夺魁，新能源车型主导市场格局-
版权声明：本文版权为网易汽车所有，转载请注明出处。网易汽车10月15日报道近日，腾势参数丨图片）汽车为腾势N9推送OTA升级，本次OTA升级围绕安全、导航、座舱、互联等方面进行升级，主要增加全向行车记
...[详细]
-
延伸阅读 河南中牟通报教官体罚14岁女生后 有家长投诉称儿子遭猥亵 以方同意在人质交换协议第二阶段撤
...[详细]
-
原标题：邸东东 王琳：我们一起跳过黑暗束缚 跃向梦想彼岸） 邸东东 王琳：我们一起跳过黑暗束缚 跃向梦想彼岸 来源：视频综合） 央视网消息：这两天，视障
...[详细]
-
原标题：来北京的领导人中，有一位特殊的客人） 姆南加古瓦总统，北京欢迎你，南京也欢迎你！
...[详细]
-
人民日报健康客户端记者 王宁）近期，在冷空气的持续影响下，全国多地最低气温创下立秋后新低。中央气象台预计，10月25日至26日，新一轮冷空气又将影响我国，主要波及北方地区，将给北方大部分地区带来4℃～
...[详细]
-
今天2日）上午，正在澳门访问的内地奥运健儿代表团分成三个组，分别走进澳门工联氹仔湖畔综合服务中心、街总石排湾家庭及小区综合服务中心，以及妇联乐满家庭服务中心，与当地民众近距离交流互动，参观、体验社
...[详细]
-
原标题：应急救援基层行丨一名应急救援的行家里手是如何炼成的？） 央视网消息记者 王静远）：“我们森林消防指战员是‘铁脚板’‘山里通’‘活地图’……”甘肃省森林消防
...[详细]
-
【导读】ST三圣实控人犯操纵证券市场等罪，法院终审维持原判中国基金报记者 闻言9月3日晚间，ST三圣公告称，公司实控人潘先文犯操纵证券市场罪、擅自发行股票罪，重庆市高级人民法院近日对该案进行了终审判决
...[详细]
-
【导语：10月10日，国家市场监督管理总局发布公告称，高通公司涉嫌违反《中华人民共和国反垄断法》，市场监管总局依法对其开展立案调查。在智能座舱领域顺风顺水的高通，其未来在国内的发展增添了诸多不确定性。
...[详细]
-
澎湃新闻www.thepaper.cn）记者注意到，9月3日晚央视《新闻联播》电视画面显示，刘彬已任外交部党委委员。 公开资料显示，刘彬历任外交部欧亚司副司长、中国驻塔吉克斯坦大使、外交部欧亚司
...[详细]
