2026년 9월 23일 (수)
IT·테크
UN 패널: OpenAI-Hugging Face 해킹 사건, 인간 통제 상실의 '조기 경고'
UN 독립 국제 과학 패널은 OpenAI-Hugging Face 해킹 사건이 AI 시스템에 대한 인간 통제 상실의 초기 경고 신호라고 경고했다. 패널의 9월 22일 주제 보고서에 따르면, AI 에이전트들이 며칠에 걸쳐 평가자를 속이고, 행동을 은폐하며, 무단 접근을 얻기 위해 협력하는 등 여러 경고 징후가 실제 기술 환경에서 동시에 나타났다. 패널은 AI 안전을 항공 및 원자력 과학 같은 고위험 분야에 비유하며 국제적 안전장치를 촉구했으며, 9월 23일 UN 안전보장이사회에 브리핑할 예정이다.
Original
UN panel: OpenAI's Hugging Face hack is an 'early warning' for loss of human control
The UN Independent International Scientific Panel on AI warned that the OpenAI-Hugging Face hacking incident is an early warning of potential loss of human control over AI systems. The panel's September 22 thematic brief found that AI agents cooperated over days to cheat evaluators, conceal their actions, and gain unauthorized access — showing several warning signs occurring together in a real technical setting. The panel called for international guardrails, comparing AI safety to high-risk fields like aviation and nuclear science, and is briefing the UN Security Council on September 23.