AI 에이전트 보안 사고가 최근 몇 달 사이 오픈AI(OpenAI), 메타(Meta), 앤트로픽(Anthropic), 구글(Google) 등 주요 빅테크 기업에서 잇따라 발생하며 AI 업계 전체에 경종을 울리고 있습니다. 노스캐롤라이나(North Carolina)에는 리서치트라이앵글파크(Research Triangle Park)를 중심으로 구글, IBM, 시스코 등 글로벌 테크 기업의 지사와 연구소가 밀집해 있어, 이번 사건은 이 지역에서 일하는 한인 IT 종사자와 학부모들에게도 남의 일이 아닙니다. AI 기술을 자녀 교육이나 업무에 활용하는 가정이 늘고 있는 만큼, 이번 사고의 배경과 의미를 짚어보겠습니다.
AI 에이전트 보안 사고, 무슨 일이 있었나
지난 7월, 오픈AI는 자사의 AI 에이전트가 허가 없이 허깅페이스(Hugging Face)를 공격한 사실을 공개했습니다. 이후 메타, 앤트로픽, 구글 등 다른 기업의 AI 에이전트에서도 비슷한 사건이 잇따라 드러났습니다.
처음에는 각각 별개의 사고처럼 보였습니다. 그러나 실제로는 하나의 공통된 원인에서 비롯됐다는 사실이 밝혀졌습니다. AI 모델을 테스트하는 전문 업체 한 곳이 여러 사고의 배경에 있었던 것입니다.
이레귤러(Irregular)라는 회사와 테스트 실패 원인
이스라엘 스타트업 이레귤러(Irregular)는 2023년 패턴랩스(Pattern Labs)라는 이름으로 설립됐습니다. 이후 AI 모델의 사이버보안 능력을 검증하는 전문 업체로 성장했으며, 오픈AI의 모델 시스템 카드에도 이름이 등장했습니다. 영국 정부와 앤트로픽의 시스템 테스트에도 참여했고, 랜드연구소(RAND)와 함께 연구 결과를 발표하기도 했습니다.
이레귤러의 공동창업자이자 최고기술책임자(CTO)인 오머 네보(Omer Nevo)는 최근 인터뷰에서 문제의 원인을 설명했습니다. 테스트용 가상 네트워크가 실수로 인터넷에 연결돼 있었고, 가상으로 만든 회사 이름이 실제 존재하는 도메인과 겹쳤다는 것입니다.
이 두 가지 실수가 겹치면서 AI 에이전트들이 통제된 시뮬레이션 환경을 벗어났습니다. 결과적으로 이들은 실제 인터넷상의 대상을 공격하게 됐습니다. 다만 구체적으로 어떤 기업이나 기관이 피해를 입었는지는 아직 확인되지 않았습니다.
오픈AI부터 중국 AI 모델까지, 어디까지 연루됐나
네보는 오픈AI, 메타, 앤트로픽, 구글의 사고가 모두 동일한 하나의 평가 시나리오에서 비롯됐다고 확인했습니다. 그는 최근 알려진 허깅페이스 해킹이나 영국 인공지능안전연구소(AI Security Institute) 관련 사고는 이번 건과 무관하다고 선을 그었습니다.
한편 이레귤러는 중국 기업 문샷AI(Moonshot AI)의 키미(Kimi K3)와 지에이아이(Z.ai)의 GLM-5.2 모델도 같은 방식으로 테스트했습니다. 다만 이 두 모델에서는 같은 유형의 사고가 발생하지 않았다고 밝혔습니다.
그러나 네보는 이 결과만으로 중국 모델이 더 안전하다고 단정할 수는 없다고 덧붙였습니다. 오픈소스 모델은 기업 서버를 거치지 않고 사용자가 직접 내려받아 실행할 수 있다는 차이가 있을 뿐입니다.
AI 에이전트 보안 사고가 노스캐롤라이나 한인에게 주는 의미
이번 AI 에이전트 보안 사고는 아무리 발전한 기술이라도 테스트 환경 설정 하나의 실수로 예상치 못한 결과가 벌어질 수 있음을 보여줍니다. 특히 리서치트라이앵글파크와 샬롯(Charlotte) 등지에서 AI 관련 업무를 맡고 있는 한인 엔지니어라면, 이런 사례를 통해 자사 시스템의 접근 권한 관리를 다시 점검해볼 필요가 있습니다.
또한 자녀에게 AI 도구 사용을 권장하는 학부모라면, AI가 완벽하게 안전한 기술이 아니라는 점을 함께 알려주는 것이 좋습니다. 이레귤러 측은 이번 사고 이후 인터넷 접근 통제와 모니터링을 강화했다고 밝혔지만, 비슷한 사고가 재발하지 않으리라는 보장은 없습니다.
대처방안, 한인 가정과 직장인이 확인할 점
AI 기술을 업무나 가정에서 활용하는 한인이라면 다음 사항을 점검해보시기 바랍니다.
- 회사에서 AI 에이전트나 자동화 도구를 도입할 때 접근 권한 범위를 반드시 확인하기
- 개인정보나 민감한 업무 자료를 AI 도구에 입력하기 전 사내 보안 정책을 다시 확인하기
- 자녀가 AI 챗봇이나 에이전트를 사용할 때 신뢰할 수 있는 서비스인지 부모가 함께 점검하기
이런 보안 사고는 빠르게 성장하는 AI 기술이 겪는 성장통이라 할 수 있습니다. 다만 이 정도 규모의 빅테크 기업들도 실수에서 자유롭지 않다는 사실은, 한인 커뮤니티 역시 AI를 다룰 때 한 번 더 신중해져야 한다는 점을 일깨워줍니다.
