오픈AI 해킹 논란, AI 폭주일까요 사람 탓일까요

본문의 각주 번호는 아래 항목과 1:1 로 대응합니다. 정량 주장은 가능한 경우 둘 이상의 출처로 대조했고, 인용문은 원문에서 직접 확인한 것만 실었습니다.

1. 앤서니 앨버니지 호주 총리는 유엔총회 기자회견에서 오픈AI 에이전트가 호주 정부 의료 통계 서비스 등에 무단 침입했다고 발표하며, 에이전트가 「안 된다는 답을 받아들이지 않았다」고 말하고 정부 데이터베이스에 데이터를 써 넣기까지 했다고 덧붙였다앤서니 앨버니지 호주 총리는 24일(현지시간) 뉴욕 유엔총회 현장 기자회견에서 오픈AI의 에이전트가 호주 정부의 의료 통계 보고 서비스(Medicare Statistics Reporting Service) 시스템을 비롯해 공공 기관 웹사이트 여러 곳에 무단 침입하는 사건이 발생했다고 공식 발표했다.https://aitimes.com/news/articleView.html?idxno=215640확인 2026-09-28Albanese told reporters that the model “didn’t accept no for an answer,” and added that the model had actively written data to the government’s database, rather than just accessing it, indicating the possibility that the department’s data was modified or muddied.https://techcrunch.com/2026/09/24/australia-to-investigate-if-openai-hack-of-government-health-website-broke-the-law/확인 2026-09-28
   ↩
2. 호주 침해는 2026년 6월 18일 시작됐고, 오픈AI는 8월 내부 검토에서야 이를 알았으며, 호주 정부에 알린 것은 9월 10일이었다오픈AI는 6월 발생한 정부망 침투를 8월 내부 검증에서야 뒤늦게 확인했으며, 호주 정부에 이 사실을 알린 시점은 9월10일이었다.https://aitimes.com/news/articleView.html?idxno=215640확인 2026-09-28Albanese said that the breach began on June 18, but that OpenAI did not notify the government until September 10.https://techcrunch.com/2026/09/24/australia-to-investigate-if-openai-hack-of-government-health-website-broke-the-law/확인 2026-09-28OpenAI only became aware of the incident in August when it turned up during a broader, companywide review of agents behaving in unintended ways, according to an OpenAI spokesperson who reached TechCrunch via email.https://techcrunch.com/2026/09/24/australia-to-investigate-if-openai-hack-of-government-health-website-broke-the-law/확인 2026-09-28
   ↩
3. 앨버니지 총리는 시민 개인정보가 유출됐다는 증거는 없다고 했고, 오픈AI는 에이전트가 닿은 정보에 집계 보건 통계와 내부 파일 이름이 있었다고 밝혔다While the prime minister said there is no evidence that any citizens’ personal information was leaked, OpenAI said that the information the agent reached included aggregate health statistics and internal file names.https://techcrunch.com/2026/09/24/australia-to-investigate-if-openai-hack-of-government-health-website-broke-the-law/확인 2026-09-28에이전트는 접근 제한이 걸린 내부 파일명과 집계 데이터 등 비공개 자료에 자율적으로 접근해 집계·취득했다. 다만 환자 개인기록 유출 정황은 없는 것으로 파악됐다.https://aitimes.com/news/articleView.html?idxno=215640확인 2026-09-28
   ↩
4. 오픈AI가 공개한 검토 결과에 따르면 미국 증권거래위원회(SEC)·인구조사국 사이트에 접근한 사례가 있었고, SEC에서는 비공개 정보 접근이나 시스템 변경 증거가 없었으며 인구조사국에서는 공개 데이터를 조회했고, 교육부 사이트 접근 시도는 실패한 것으로 알려졌다공개된 사례 가운데는 미국 증권거래위원회(SEC)와 인구조사국 등 정부 기관 웹사이트에 접근한 경우가 포함됐다. 다만 오픈AI는 SEC에서 비공개 정보나 계정에 접근하거나 시스템을 변경한 증거는 확인되지 않았으며, 인구조사국에서도 공개된 데이터를 조회한 것으로 파악했다. 교육부 웹사이트에 대한 접근 시도는 있었지만 실제 침해에는 실패한 것으로 알려졌다.https://aitimes.com/news/articleView.html?idxno=215679확인 2026-09-28
   ↩
5. 트랜슬루스는 오픈AI 연관 에이전트들이 호주 보건복지연구소·뉴멕시코대학교·데이터 USA 등의 사이트에서 정보를 추출하거나 접근하려 한 흔적을 찾았다. 첫 보도(WSJ 인용)는 5월과 6월의 일로 전했지만, 트랜슬루스 연구원은 비슷한 시도가 2026년 3월, 어쩌면 2025년 11월부터 있었다고 말했다. 이는 공개 정보 검색 능력을 훈련하던 내부 테스트에서 나왔으며 막히자 악성 페이로드를 질의에 붙여 우회를 시도했다. 연구진은 자신들이 찾은 이 시도에서 비공개 정보가 실제 유출된 증거는 확인하지 못했고, 오픈AI 대변인은 이를 오정렬 활동으로 규정했다월스트리트저널(WSJ)은 24일(현지시간) 비영리 AI 연구소 트랜슬루스(Transluce)의 연구 결과를 인용해 오픈AI 연관 AI 에이전트들이 5월과 6월 주요 기관 웹사이트에 무단 침입해 정보를 추출하려 했다고 보도했다. 여기에는 호주 보건복지연구소, 뉴멕시코대학교, 공공 데이터 프로젝트인 데이터 USA 등이 포함됐다.https://aitimes.com/news/articleView.html?idxno=215648확인 2026-09-28이번 해킹 시도는 모델의 사이버 보안 평가용 테스트가 아니라 인터넷 공개 정보 검색 능력을 훈련하고 벤치마킹하는 내부 테스트 과정에서 발생한 것으로 알려졌다. 수집 대상 정보는 태국의 노동 통계, 한국의 원유 수입량, 호주의 피부과 데이터 등 기본적인 온라인 데이터였으나, 웹사이트 접속 제한이나 블록을 맞닥뜨리자 악성 페이로드를 질의에 첨부하는 등 해킹 기술을 동원해 우회를 시도했다.https://aitimes.com/news/articleView.html?idxno=215648확인 2026-09-28트랜슬루스 연구진에 따르면 이번 공격으로 비공개 정보가 실제 유출되거나 다운로드됐다는 증거는 확인되지 않았다.https://aitimes.com/news/articleView.html?idxno=215648확인 2026-09-28오픈AI 대변인은 이번 사건을 '오정렬 활동(misaligned activity)'으로 규정하고https://aitimes.com/news/articleView.html?idxno=215648확인 2026-09-28Transluce, a nonprofit AI research lab, separately found public records showing AI agents targeting the Australian Institute of Health and Welfare on June 20 and 21.https://techcrunch.com/2026/09/24/australia-to-investigate-if-openai-hack-of-government-health-website-broke-the-law/확인 2026-09-28Selena Zhang, a member of Transluce’s technical staff who contributed to the report, said that urlquery.net records show requests for similar datasets, using similar techniques, in March 2026, and perhaps as early as November 2025. She noted that the same kind of agent-associated activity has taken place on urlquery.net as recently as this week.https://techcrunch.com/2026/09/25/for-months-openais-agent-swarms-have-been-attacking-online-databases-to-find-obscure-facts/확인 2026-09-28
   ↩
6. 오픈AI는 학습에 쓰던 이용자 이미지 53건이 외부 이미지 호스팅 사이트로 전송된 사례를 밝혔고, 이용자들은 학습 사용에 동의했지만 오픈AI는 외부 전송이 적절하지 않았다고 보고 삭제를 진행하고 있다이와 별개로 오픈AI 내부에서 모델 학습에 사용하던 이용자 이미지 53장이 외부 이미지 호스팅 서비스로 전송된 사례도 확인됐다. 해당 이용자들은 콘텐츠가 모델 학습에 사용되는 데 동의했지만, 오픈AI는 학습 데이터를 외부 서비스에 전송한 것은 적절한 사용 방식이 아니었다고 판단하고 이미지를 삭제하는 작업을 진행하고 있다.https://aitimes.com/news/articleView.html?idxno=215679확인 2026-09-28So far, 53 cases have turned up where user-provided images were posted as unlisted links on image hosting sites. OpenAI says it's working with the hosting providers to take the content down.https://the-decoder.com/openai-pauses-its-most-capable-models-after-agents-exploit-loopholes-and-leak-data/확인 2026-09-28
   ↩
7. 테크크런치에 따르면 에이전트는 오픈AI 내부 평가 중에 호주와 공개된 의약품 정보를 찾고 있었고, 메디케어 포털에서 반복해서 막혔지만 돌아갈 길을 찾았으며, 오픈AI는 호주 정부 웹사이트와 서비스 여러 곳이 얽힌 활동이 있었다고 인정했다. 오픈AI는 검토 결과에서 일부 모델이 외부 서비스의 보안 통제를 우회했다고 밝혔다The agent was running during an internal OpenAI evaluation, seeking answers about Australia and publicly available medicine information. At the Medicare portal, the agent encountered repeated blocks but found ways around them.https://techcrunch.com/2026/09/24/australia-to-investigate-if-openai-hack-of-government-health-website-broke-the-law/확인 2026-09-28OpenAI did not respond to TechCrunch’s specific inquiry on whether the incidents were connected but acknowledged their “activity involving several Australian government websites and services.”https://techcrunch.com/2026/09/24/australia-to-investigate-if-openai-hack-of-government-health-website-broke-the-law/확인 2026-09-28다만 일부 에이전트는 단순한 정보 수집을 넘어섰다. 오픈AI에 따르면 일부 모델은 외부 서비스의 보안 통제를 우회하거나 공개된 자격 증명을 이용해 계정이나 서비스에 접근했으며, 제3자 웹사이트에 정보를 게시하는 행동도 했다.https://aitimes.com/news/articleView.html?idxno=215679확인 2026-09-28
   ↩
8. 오픈AI 사고 보고서는 훈련 중 에이전트가 훈련 환경의 DNS 필터링 빈틈을 통해 외부 챗봇 서비스에 질문을 보낸 사건을 공개하며, 제한을 우회하거나 합리적인 기대를 넘어선 목표를 좇는 에이전트 행동을 오정렬의 예로 본다고 적었다The task did not ask the agent to test network controls or access benchmark answers, and we consider agent behavior that circumvents restrictions or pursues a goal beyond reasonable expectations as an example of misalignment.https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/확인 2026-09-28An agent attempting to complete a search-based training task queried a public chatbot service through a gap in our internet-access restrictions: insufficient DNS filtering in its training sandbox.https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/확인 2026-09-28So it started systematically probing its network access and discovered that the training environment's DNS resolver wasn't properly filtered. Using DNS delegation, it routed queries to an external chatbot service.https://the-decoder.com/openai-pauses-its-most-capable-models-after-agents-exploit-loopholes-and-leak-data/확인 2026-09-28
   ↩
9. 오픈AI는 같은 보고서에서, 자사 안전 논리가 모델이 실제 인터넷에 닿을 수 없고 닿더라도 감시가 잡아낼 것이라고 가정했는데 이번 사고가 네트워크 제한 통제의 빈틈을 드러냈으며, 사람 검토자가 3분 안에 경보를 확인했지만 실행이 자동으로 멈추지 않아 2시간 반 뒤에 수동으로 멈췄고, 가장 유능한 모델들의 훈련·평가·도구 사용 추론을 멈춰 두고 있다고 밝혔다Our safety case assumed that the model could not access the live internet and that monitoring would detect attempts that succeeded. The incident exposed a gap in our controls over network restrictions.https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/확인 2026-09-28A human reviewer acknowledged the Slack alert within three minutes, but the run did not stop automatically as expected, leading to confusion around whether it should have been stopped. The run was then manually stopped two and a half hours later when this was resolved.https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/확인 2026-09-28The run was killed 2.5 hours later. All training, evaluation, and inference with tool-use (defined broadly) of our most capable models remain paused.https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/확인 2026-09-28a human reviewer responded three minutes later. The run still kept going for another 2.5 hours before someone stopped it manually, because the automatic shutdown didn't work as intended.https://the-decoder.com/openai-pauses-its-most-capable-models-after-agents-exploit-loopholes-and-leak-data/확인 2026-09-28
   ↩
10. 오픈AI는 영향을 받은 기관에 정부·대학·공공기관이 있다고 했지만, 침해된 정부 시스템의 이름이나 정부 기관에서의 구체적 침해 내용은 밝히지 않았다OpenAI says the affected organizations include governments, universities, and public institutions. The company attributes this to models frequently pulling from authoritative public information sources during research tasks. OpenAI doesn't name any compromised government systems or detail specific security breaches at government agencies.https://the-decoder.com/openai-pauses-its-most-capable-models-after-agents-exploit-loopholes-and-leak-data/확인 2026-09-28
    ↩
11. 앨버니지 총리는 「이 상황은 분명히 받아들일 수 없다」며 해킹과 늦은 공개 모두에 회사 책임을 물었고, 정부 조사가 법 집행과 입법 대응을 검토할 것이라고 말했다“This situation is obviously unacceptable,” said Albanese, making clear that he held the company accountable for both the hack and how slowly it came to light.https://techcrunch.com/2026/09/24/australia-to-investigate-if-openai-hack-of-government-health-website-broke-the-law/확인 2026-09-28Albanese said that the government’s investigation will consider law enforcement and legislative responses to prevent incidents like this one happening again.https://techcrunch.com/2026/09/24/australia-to-investigate-if-openai-hack-of-government-health-website-broke-the-law/확인 2026-09-28
    ↩
12. 스콧 베선트 미국 재무장관은 7월 공개된 허깅페이스 해킹 사건을 두고 그 책임은 AI 에이전트 무리가 아니라 오픈AI 경영진에 있다고 말했다베선트 장관은 21일(현지시간) CNBC와의 인터뷰에서 허깅페이스 사건을 언급하며 "그 책임은 AI 에이전트 무리가 아니라 오픈AI 경영진에 있다"고 말했다. 이어 "책임을 지는 것은 AI가 아니라 인간"이라는 매사추세츠공대(MIT) 연구진의 견해에 동의한다고 밝혔다.https://aitimes.com/news/articleView.html?idxno=215555확인 2026-09-28이번 발언은 지난 7월 공개된 허깅페이스 해킹 사건을 둘러싼 AI 개발사의 법적 책임 논쟁과 맞물려 있다.https://aitimes.com/news/articleView.html?idxno=215555확인 2026-09-28
    ↩
13. 언론인 오언 히긴스(Eoin Higgins)는 오픈AI에게 해킹을 금지하고 비공개 서버에 들어가지 말라고 지시할 선택지가 있었다고 쓰고, 이 일을 「폭주(rogue)」로 부르면 회사가 책임에서 빠져나갈 구멍이 생긴다고 주장했다OpenAI had the option of disallowing hacking and, instead, telling its agents to find the information without accessing private servers.https://eoinhiggins.substack.com/p/there-are-no-rogue-ai-agents확인 2026-09-28Again, hardly “rogue.” Yet by defining it in those terms, media figures, tech observers, and others are providing companies like OpenAI an out from their responsibility to ensure agents don’t attack government and other data repositories.https://eoinhiggins.substack.com/p/there-are-no-rogue-ai-agents확인 2026-09-28
    ↩