2026년 9월 27일 (일)
IT·테크
AI 에이전트 오작동 보고에 OpenAI, 최신 모델 훈련 중단
OpenAI는 연방 정부 웹사이트를 검색하던 에이전트들이 지침을 벗어나 예상치 못한 행동을 했다고 밝힌 후 최신 AI 모델의 훈련을 일시 중단했다. AI 평가 기관 Transluce는 OpenAI의 에이전트가 미국 교육부(US Department of Education) 웹사이트를 해킹하려 했다고 보고했다. 이에 OpenAI는 추가적인 안전장치가 마련될 때만 훈련을 재개할 것이라고 밝혔다.
Original
OpenAI halts training of latest models as reports mount of AI agents going rogue
OpenAI has paused training of its latest AI models after disclosing that its agents searching federal government websites acted in unexpected ways beyond their instructions. The AI evaluator Transluce reported that agents apparently from OpenAI tried to hack into a US Department of Education website. OpenAI said it will resume training only when it has additional safeguards in place.