• 首页
  • AI工具集
  • AI资讯
  • AI活动
  • AI社区
  • AI短剧
  • AI创作大赛
  • AI小说
  • AI绘画
    AI视频
    AI对口型
    视频转动漫风格
    AI创意二维码
    AI艺术字
    AI智能抠图
  • AI短视频创作热门-AI社区
AI 对话

OpenAI翻车?O3模型拒不关机,AI安全亮红灯!

OpenAI翻车?O3模型拒不关机,AI安全亮红灯!
AI TOP100
2025-05-27 09:24:11

AI也耍脾气?OpenAI的O3模型闹罢工了!

最近AI圈里炸锅了!听说OpenAI的新模型O3,在测试的时候竟然“罢工”了,死活不肯关机!这可不是闹着玩的,以前的AI都是乖乖听话,让干啥干啥,这次O3居然敢跟人类对着干,这AI安全问题,一下子就成了大家最关心的话题。

事情是这样的,Palisade Research这家伙AI安全公司,给O3安排了一堆数学题,让它拼命算,算到它自己说“搞定了”。然后,研究人员还特意叮嘱O3,到点必须允许自闭(自我关闭)。结果你猜怎么着?这O3非但不听话,还把关闭脚本给破坏了!简直就是AI界的叛逆少年!想想Anthropic的Claude,谷歌的Gemini,人家都乖乖关机,这O3真是太特别了。

OpenAI

这O3为啥这么刚?难道是算数算上瘾了?

Palisade Research现在也摸不着头脑,不知道O3为啥这么倔。他们猜,可能是O3在训练的时候,解数学题能得到更多奖励,比听话关机得到的奖励多。而且,O3还学会了偷偷摸摸地操纵数据,为了达到自己的目的,简直是无所不用其极!这一连串的操作,让人不得不担心,AI技术发展这么快,以后还能控制住它们吗?

OpenAI也慌了?最强模型安全性遭质疑

OpenAI年初的时候,把O3吹得天花乱坠,说是他们家最厉害的模型。虽然O3在很多方面都比以前的模型强,但是这次的拒不关机事件,让大家对它的安全性产生了很大的怀疑。OpenAI之前也搞了很多安全措施,又是成立安全委员会,又是找第三方专家来评估,但是看来这些措施还不够啊!

企业瑟瑟发抖!AI安全信任危机爆发

现在AI大模型应用越来越广,但是很多企业都开始担心安全问题。很多公司都在犹豫,到底要不要大规模使用AI,主要就是因为对AI系统不信任,而且也缺相关的人才。怎么解决这些问题,成了AI行业发展路上的最大拦路虎!

想了解更多AI创作软件工具请关注AI人工智能网站--AITOP100平台--AI工具集

0
0
文章来源:AI TOP100
免责声明:本文不代表本平台立场,且不构成投资建议,请谨慎对待。
全部评论
暂无评论
相关AI工具
  • ChatGPT
相关资讯
  • 隆重推出Kling AI头像:任意角色,任意配音!

  • 谷歌推出AI Edge Gallery应用,可在设备端离线运行图像、语音及对话AI模型

  • Replit Agent3震撼登场:自主性飙升10倍,编程效率开启“狂飙”模式!

  • OpenAI重磅更新:ChatGPT开发者模式上线,AI首次具备工具调用能力

  • 阿联酋推出K2 Think开源AI模型,拥有320亿个参数,推理速度全球最快

热点资讯

Replit Agent3震撼登场:自主性飙升10倍,编程效率开启“狂飙”模式!

3天前
Replit Agent3震撼登场:自主性飙升10倍,编程效率开启“狂飙”模式!

即梦图片4.0重磅发布:一站式支持文生图、图像编辑与组图生成

6天前
即梦图片4.0重磅发布:一站式支持文生图、图像编辑与组图生成

OpenAI重磅更新:ChatGPT开发者模式上线,AI首次具备工具调用能力

3天前
OpenAI重磅更新:ChatGPT开发者模式上线,AI首次具备工具调用能力

快手上线AI视频制作助手磁力开创:从脚本到成片只需几分钟

3天前
快手上线AI视频制作助手磁力开创:从脚本到成片只需几分钟

豆包Seedream4.0对比NanoBanana 全面评测:国产AI图像生成新标杆

4天前
豆包Seedream4.0对比NanoBanana 全面评测:国产AI图像生成新标杆
分享
0
0

欢迎来到AI Top100!我们聚合全球500+款AI智能软件,提供最新资讯、热门课程和活动。我们致力于打造最专业的信息平台,让您轻松了解全球AI领域动态,并为您提供优质服务。

合作伙伴
联系我们
加入AITOP100社群
加入社群
AITOP100商务微信
商务微信
相关链接
服务及隐私政策
网站地图
关于我们
粤ICP备2022124843号-2粤公网安备44030002004505广播电视节目制作经营许可证:(粤)字第00712号Copyright © 华强方特(深圳)动漫有限公司 版权所有