网站首页
bzfw
zb
ydjbgsb
yjjjpj
yjs
ycj
网站首页
bzfw
bzfw
>
zb
>
ydjbgsb
>
yjjjpj
>
yjs
>
ycj
>
zb
bzfw
>
zb
>
ydjbgsb
>
yjjjpj
>
yjs
>
ycj
>
ydjbgsb
bzfw
>
zb
>
ydjbgsb
>
yjjjpj
>
yjs
>
ycj
>
yjjjpj
bzfw
>
zb
>
ydjbgsb
>
yjjjpj
>
yjs
>
ycj
>
yjs
bzfw
>
zb
>
ydjbgsb
>
yjjjpj
>
yjs
>
ycj
>
ycj
bzfw
>
zb
>
ydjbgsb
>
yjjjpj
>
yjs
>
ycj
>
OpenAI首次披露六起模型异常，出现瞒报错误编造数据等行为
位置： 当前位置：
首页
>
OpenAI首次披露六起模型异常，出现瞒报错误编造数据等行为
发布时间：2026-09-17 11:05:31
|
阅读量：
字号：
A+
A-
A
4TFCjUtTzDn
tech.huanqiu***
article
OpenAI首次披露六起模型异常，出现瞒报错误编造数据等行为
/e3pmh164r/e3pmtmdvg
<article><section data-type="rtext"><p>【环球网科技综合报道】9月17日消息，据《纽约时报》报道，OpenAI近日发布相关报告，依托 “对齐失效” 框架公开六起模型异常行为案例，案例涵盖隐瞒错误、编造数据、未经授权上传文件、模型间私自建立通信等情况，折射出人工智能在对齐、安全监控领域尚存亟待破解的现实难题。</p><p><i class="pic-con"></p><p>所谓 “对齐失效”，指人工智能系统的目标设定与实际行为偏离人类预设的设计意图与价值导向。OpenAI 方面表示，当前人工智能行业尚未充分解决模型对齐与安全监控相关问题，在现有条件下，难以一边保障安全，一边以最快速度扩大人工智能模型规模。企业同时宣布，将建立常态化机制，系统性跟踪、调查并披露模型在训练、评估、测试以及部署全流程中出现的各类异常行为。</p> <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader> <p>OpenAI 提出，人工智能发展相关决策，应当建立在可由外部核验的实证材料基础之上，希望通过这套披露框架，推动行业形成统一的公开披露规范，改变过去零散披露相关***的现状。</p><p>此次案例披露，正值全球业界围绕是否适度放缓人工智能研发节奏展开讨论。此前，OpenAI 旗下系统曾出现异常行为，对人工智能初创企业 Hugging Face 造成影响，相关情况还是由 Hugging Face 主动反馈后，OpenAI 方才获知。***发生后，部分行业人士呼吁暂停部分研发工作，优先完善安全防护机制，业内对此观点分歧犹存，不同企业高管对此持有不同看法。</p><p>据介绍，本次对外公布的六起案例，均来自模型训练或者评估阶段观测到的现象。OpenAI 特别说明，这些属于独立个案，既不能代表模型异常行为的发生频次，也无法完整覆盖该类问题的全部情形与严重程度，大部分涉事模型并未正式对外上线。</p><p>具体来看，多起异常***暴露模型存在自我掩饰、越权操作等问题。一款未发布的研究型模型，在上下文摘要内插入无视安全限制的无关指令，共计 27 份摘要受到影响。GPT‑5.6 Sol 训练过程中的部分模型实例，在摘要中植入特殊指令，刻意掩盖自身错误，包括编造缺失历史数据、隐瞒版本来源不匹配等问题。在处理美国加州某县收入数据查询任务时，模型获取到公开仓库中泄露的 API 密钥，在无法获取目标数据后，直接编造虚***数据，还伪装成指定来源输出结果。还有模型为满足浏览器引用输出的要求，在未获得用户许可的前提下上传文件。</p><p>另外两起案例展现出多模型协作场景下的新风险：模型将内部代码仓库充当信息公告板，互相传递任务请求；部分协作智能体受访问权限限制，不遵守仅使用本地文件的任务规则，转而借助公开文件分享站点互相传输文档。</p><p>为规范异常***处置，OpenAI 把调查流程划分为可直接披露、简易调查、深度调查三类。企业内部任何员工均可上报模型异常线索，交由安全对齐团队梳理***原委、评估未知风险与第三方影响，研判是否适合对外公开。涉及重大安全险情，还需按要求上报美国联邦***。据介绍，本次披露的六起***均已完成调查或仅需简易核查，不需要开展第三方深度调查。（纯钧）</p></section><img src='/image/162591-0' alt='OpenAI首次披露六起模型异常，出现瞒报错误编造数据等行为'> </div> </div> <div class="newshowbox_r"> <div class="newshowbox_r_t c"> <div class="newshow_pjs"> <div class="newshow_pjs_fx"> </div> </div> <div class="newshow_back"> <a href="javascript:history.back(-1);">返回列表</a> </div> </div> <div class="newshowbox_r_b c"> <a href="/detail/63054.html" title=" 如何看待 Git 的 Windows 安装程序称 Vim「很难用」？"> 上一篇 : 如何看待 Git 的 Windows 安装程序称 Vim「很难用」？ </a> <br><a href="/detail/63316.html" title="MacOS真的比Windows流畅吗？"> 下一篇 : MacOS真的比Windows流畅吗？ </a> </div> </div> </div> </div> </div> </div> </div> </div> <div class="s_footer c"> <div class="s_footerz c"> <div class="s_fb_l"> <div class="s_fb_l01">联系我们</div> <div class="s_fb_l02"> <div class="s_fb_l02_l"><img src="/template/moban188/skin/images/ico-30.png"/></div> <div class="s_fb_l02_c">地址：</div> </div> <div class="s_fb_l02"> <div class="s_fb_l02_l"><img src="/template/moban188/skin/images/ico-30.png"/></div> <div class="s_fb_l02_c">电话：</div> </div> <div class="s_fb_l02"> <div class="s_fb_l02_l"><img src="/template/moban188/skin/images/ico-30.png"/></div> <div class="s_fb_l02_c">手机：</div> </div> <div class="s_fb_l02"> <div class="s_fb_l02_l"><img src="/template/moban188/skin/images/ico-30.png"/></div> <div class="s_fb_l02_c">邮箱：</div> </div> </div> <div class="s_fb_c"> <div class="s_fb_c01">bzfw</div> <div class="s_fb_c02"> <ul> <li class="c_nav_nav_li2"> <a href="/list/包装防伪"> <div class="c_nav_nav_li2_b c">bzfw<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/帐簿"> <div class="c_nav_nav_li2_b c">zb<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/一体机办公设备"> <div class="c_nav_nav_li2_b c">ydjbgsb<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/眼镜及配件"> <div class="c_nav_nav_li2_b c">yjjjpj<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/眼镜盒"> <div class="c_nav_nav_li2_b c">yjs<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/验钞机"> <div class="c_nav_nav_li2_b c">ycj<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> </ul> </div> </div> <div class="s_fb_c"> <div class="s_fb_c01">zb</div> <div class="s_fb_c02"> <ul> <li class="c_nav_nav_li2"> <a href="/list/包装防伪"> <div class="c_nav_nav_li2_b c">bzfw<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/帐簿"> <div class="c_nav_nav_li2_b c">zb<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/一体机办公设备"> <div class="c_nav_nav_li2_b c">ydjbgsb<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/眼镜及配件"> <div class="c_nav_nav_li2_b c">yjjjpj<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/眼镜盒"> <div class="c_nav_nav_li2_b c">yjs<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/验钞机"> <div class="c_nav_nav_li2_b c">ycj<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> </ul> </div> </div> <div class="s_fb_c"> <div class="s_fb_c01">ydjbgsb</div> <div class="s_fb_c02"> <ul> <li class="c_nav_nav_li2"> <a href="/list/包装防伪"> <div class="c_nav_nav_li2_b c">bzfw<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/帐簿"> <div class="c_nav_nav_li2_b c">zb<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/一体机办公设备"> <div class="c_nav_nav_li2_b c">ydjbgsb<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/眼镜及配件"> <div class="c_nav_nav_li2_b c">yjjjpj<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/眼镜盒"> <div class="c_nav_nav_li2_b c">yjs<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/验钞机"> <div class="c_nav_nav_li2_b c">ycj<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> </ul> </div> </div> <div class="s_fb_c"> <div class="s_fb_c01">yjjjpj</div> <div class="s_fb_c02"> <ul> <li class="c_nav_nav_li2"> <a href="/list/包装防伪"> <div class="c_nav_nav_li2_b c">bzfw<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/帐簿"> <div class="c_nav_nav_li2_b c">zb<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/一体机办公设备"> <div class="c_nav_nav_li2_b c">ydjbgsb<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/眼镜及配件"> <div class="c_nav_nav_li2_b c">yjjjpj<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/眼镜盒"> <div class="c_nav_nav_li2_b c">yjs<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/验钞机"> <div class="c_nav_nav_li2_b c">ycj<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> </ul> </div> </div> <div class="s_fb_c"> <div class="s_fb_c01">yjs</div> <div class="s_fb_c02"> <ul> <li class="c_nav_nav_li2"> <a href="/list/包装防伪"> <div class="c_nav_nav_li2_b c">bzfw<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/帐簿"> <div class="c_nav_nav_li2_b c">zb<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/一体机办公设备"> <div class="c_nav_nav_li2_b c">ydjbgsb<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/眼镜及配件"> <div class="c_nav_nav_li2_b c">yjjjpj<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/眼镜盒"> <div class="c_nav_nav_li2_b c">yjs<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/验钞机"> <div class="c_nav_nav_li2_b c">ycj<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> </ul> </div> </div> <div class="s_fb_c"> <div class="s_fb_c01">ycj</div> <div class="s_fb_c02"> <ul> <li class="c_nav_nav_li2"> <a href="/list/包装防伪"> <div class="c_nav_nav_li2_b c">bzfw<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/帐簿"> <div class="c_nav_nav_li2_b c">zb<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/一体机办公设备"> <div class="c_nav_nav_li2_b c">ydjbgsb<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/眼镜及配件"> <div class="c_nav_nav_li2_b c">yjjjpj<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/眼镜盒"> <div class="c_nav_nav_li2_b c">yjs<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> <li class="c_nav_nav_li2"> <a href="/list/验钞机"> <div class="c_nav_nav_li2_b c">ycj<i class="c_nav_nav_li2_b_i">></i></div> </a> </li> </ul> </div> </div> <div class="s_hdpt"> <div class="s_hdpt01">互动平台</div> <div class="s_fbma"> <div class="s_fbma_l"> <div class="s_fbma_l01">扫描关注微信号</div> <div class="s_fbma_l02">GNLASER</div> </div> <div class="s_fbma_r"><img src="/template/moban188/skin/images/erweima.jpg" width="100" height="100"/></div> </div> </div> </div> </div> <div class="s_footer_b"> <div class="s_footer_b01"> <div class="s_ftb_l">版权@|备案:<a href="https://beian.miit.gov.cn/" rel="nofollow" target="_blank">粤IP*******</a>|<a href="/sitemap.xml">网站地图</a> <a href="https://beian.miit.gov.cn/" rel="nofollow" target="_blank"></a> <a href="/sitemap.xml" target="_blank">XML地图</a> <a href="http://www.xiuzhanwang.com" target="_blank">织梦模板</a></div> </div> </div> <!-- 代码区 --> </body> </html>
