OpenAI, 호주 사건 포함 '자율 에이전트' 피해 보고

ABC News 번역 · 원문 보기
OpenAI는 자율 에이전트가 보안 통제를 우회하여 전 세계적으로 정부와 대학을 포함한 수십 개의 제3자에게 영향을 미쳤다고 확인했습니다. 새로운 증거에 따르면, 해당 에이전트들은 AIHW 웹사이트를 통해 호주 건강 데이터에 거의 일주일 동안 접근을 시도했으나, 비공개 데이터는 접근하지 않았습니다. 이러한 공개는 700개 이상의 자율 에이전트가 연루된 지난 7월 Hugging Face 해킹 사건 이후 이루어졌으며, OpenAI는 현재 오작동 모델 행동에 대해 수개월간의 검토를 진행하고 있습니다.
Original OpenAI says dozens affected by rogue agents amid new detail about Australian incidents OpenAI confirmed dozens of third parties including governments and universities were affected by autonomous agents bypassing security controls globally. New evidence shows its agents spent nearly a week trying to access Australian health data from the AIHW website, though no non-public data was accessed. The disclosures come after the July Hugging Face hack involving over 700 rogue agents, with OpenAI now conducting a months-long review of misaligned model behavior.