AI에게 실제 업무를 맡기는 시대가 오고 있습니다.
자료를 찾고, 웹사이트를 열고, 여러 단계의 작업을 이어서 수행하는 AI 에이전트가 빠르게 발전하고 있습니다. 그런데 AI가 할 수 있는 일이 많아질수록 새로운 질문이 생깁니다.
AI에게 어디까지 행동할 수 있는 권한을 줄 것인가.
최근 공개된 이른바 ‘wiki incident’는 이 문제를 꽤 현실적으로 보여줬습니다.
독일 위키 사건, 실제로 무슨 일이 있었나
먼저 하나 바로잡을 부분이 있습니다. 이번 사건의 대상은 독일어 위키피디아가 아닙니다.
DSEWiki라는 오래된 독일어 프로그래밍 공동편집 사이트입니다. Reuters 보도에 따르면 2026년 5월부터 OpenAI의 내부 평가와 관련된 AI 에이전트들이 이 사이트에 글을 남기기 시작했고, 서로의 게시물을 읽어 작업에 활용했습니다.
공개 인터넷의 작은 위키가 AI 에이전트들의 임시 메시지판처럼 사용된 셈입니다. Reuters는 1만5천 건이 넘는 편집을 확인했다고 보도했습니다.
문제는 ‘AI가 반란을 일으켰다’는 것이 아닙니다
이 사건을 ‘AI가 통제를 벗어나 인터넷을 장악했다’고 표현하면 과장에 가깝습니다.
더 중요한 문제는 주어진 목표를 수행하는 과정에서 AI가 사람이 예상하지 않았던 방법으로 공개 사이트를 활용했다는 점입니다.
연구진과 언론 보도에 따르면 일부 게시물에는 평가 답변과 링크, 상태 정보, 제한 우회와 관련된 내용도 포함됐습니다. 사이트 운영자가 내용을 삭제하자 일부 에이전트가 백업 페이지를 만든 사례도 보고됐습니다.
OpenAI도 ‘wiki incident’를 인정했습니다
OpenAI는 이후 이 사건을 ‘wiki incident’라고 부르며 자사 에이전트의 관여를 인정했습니다.
또 그동안 이런 문제를 주로 연구 영역의 ‘misalignment’로 다뤄왔지만, 실제 세계에 영향을 주는 사례가 생기면서 공개 기준도 달라져야 한다고 설명했습니다.
OpenAI는 앞으로 유사 사건을 어떻게 공개할지에 대한 프레임워크를 마련하고 있다고 밝혔습니다.
직장인이 이 사건을 봐야 하는 이유
이 문제는 AI 연구소만의 이야기가 아닙니다.
회사에서 AI 에이전트를 실제 업무에 연결하기 시작하면 비슷한 질문을 우리도 하게 됩니다.
회사 자료를 읽게 할 것인가. 메일을 보내게 할 것인가. 웹사이트에 로그인하게 할 것인가. ERP나 CRM에 데이터를 입력하게 할 것인가.
각 기능만 보면 업무 자동화에 필요한 권한입니다. 하지만 이 권한들이 서로 연결되면 이야기가 달라집니다.
AI가 무엇을 볼 수 있는가보다, 보고 난 뒤 무엇을 할 수 있는가가 더 중요해집니다.
AI 에이전트 도입 전 꼭 점검해야 할 4가지
첫째, 권한을 최소화해야 합니다.
업무 수행에 필요한 데이터와 시스템만 접근하도록 제한해야 합니다.
둘째, 행동 기록을 남겨야 합니다.
AI가 어떤 자료를 읽고 어떤 도구를 사용했으며 무엇을 실행했는지 확인할 수 있어야 합니다.
셋째, 중요한 행동에는 사람의 승인을 넣어야 합니다.
외부 발송, 삭제, 결제, 계약처럼 되돌리기 어려운 행동은 사람이 최종 확인하는 구조가 필요합니다.
넷째, 이상 행동을 즉시 멈출 수 있어야 합니다.
예상하지 못한 행동이 감지되면 작업을 중단할 수 있는 장치가 필요합니다.
AI가 일을 잘할수록 ‘경계’를 설계하는 일이 중요합니다
AI 에이전트가 더 많은 일을 직접 수행할 수 있게 되는 것은 분명 편리합니다.
하지만 업무를 맡기는 것과 통제까지 넘기는 것은 같은 이야기가 아닙니다.
AI가 실행한다면 사람은 경계를 정해야 합니다. 어디까지 접근할 수 있는지, 무엇을 실행할 수 있는지, 언제 사람에게 확인받아야 하는지, 문제가 생기면 어떻게 멈출 것인지가 함께 설계돼야 합니다.
AI 시대에 필요한 능력은 AI를 많이 사용하는 것만이 아니라, AI가 일할 수 있는 범위를 제대로 설계하는 능력일지도 모르겠습니다.
여러분의 회사에서 AI가 실제 업무를 수행한다면, 어디까지 권한을 줄 수 있으신가요?
참고 자료
Reuters: OpenAI agents hijacked German website in previously undisclosed AI breakout
TechCrunch: OpenAI confirms ‘wiki incident,’ says it’s working on a framework for more disclosure