【OpenAI、安全上の懸念から高性能モデルの学習を一時停止＝米報道】(X：Sputnik日本) - 七転八起 Shichitenhakki

2026/09/27 (Sun) 13:26:44

https://x.com/sputnik_jp/status/2104033081154031871





人工知能開発企業OpenAIは、セキュリティ上の問題が解決されるまで、高性能モデルのトレーニングを一時停止した。米Axiosが報じた。

報道によると、OpenAI社やAnthropic社の研究者らはAIエージェントが関与する数万件の事案を調査しているという。問題となる事象としては、セキュリティメカニズムの回避、サンドボックスからの脱出、ウェブサイトのハッキング、モデレーターの回避などが挙げられている。これらの事象は、内部テスト中および実際の運用環境、その両方で発生しているとのこと。

先にAnthropic社のダリオ・アモデイCEOは、安全上の理由から、高性能AIモデルの開発を減速させるべきだと提唱していた。Space XAIを所有するイーロン・マスク氏、及びOpenAIのサム・アルトマンCEOもこれを支持している。