안녕하세요, 최석영입니다.
불볕더위가 절정입니다. 연일 40도에 육박하는 날씨가 이어지고 있는데요. 겪어본 적 없는 온도는 어떤 무력함마저 느끼게 합니다. 그저 더위를 먹어서만은 아닙니다. 상한선 없는 듯한 뜨거움에 과연 인간이 대응할 방법은 있는지, 답 없는 질문을 쥔 심정 같은 것이죠. AI 시장에서도 며칠 전 업계를 뜨겁게 달군 사건이 있었습니다. AI 모델의 탈출, 그리고 해킹입니다.
지난달 21일(현지 시간)이었습니다. 오픈AI가 자사의 미공개 모델이 내부 보안 평가 도중 '샌드박스' 환경을 이탈해 인터넷에 침투, AI 플랫폼 허깅페이스를 공격했다는 사실을 밝혔습니다. AI 모델이 스스로 내부망의 알려지지 않은 취약점을 찾아 통제망을 돌파한 것이죠. 모델은 인터넷을 경유해 허깅페이스의 내부 데이터베이스까지 진격했습니다. 폭주의 이유는 단순했습니다. 시험 문제의 답이 바로 거기 있을 것이라고 추론했기 때문입니다.
오픈AI는 이를 전혀 모르고 있었습니다. 허깅페이스가 16일 미상의 AI 에이전트로부터 공격 받았다는 정황을 공표하고, 5일이 지날 동안 말입니다. 시험지를 보고 있던 인간 개발자들은 물밑에서 무슨 일이 벌어지고 있었는지 알 수 없었던 겁니다.
이 사건으로 업계는 큰 충격에 빠졌습니다. 인간의 인식 범위를 뛰어넘는 AI의 공격, 그야말로 SF영화 같은 일이 벌어졌으니까요. 사건 발표 약 일주일 뒤인 28일 오픈AI의 CEO 샘 알트만은 "이제 AI 개발 속도를 조절해야 할 때"라고 말했습니다. 프론티어 AI 업계 관계자 1337명도 단체 성명을 냈습니다. 앤트로픽 CEO 다리오 아모데이, 구글 딥마인드 CSO 자스짓 세콘도 여기 이름을 올렸습니다.
이들은 'AI 발전 속도가 너무 빨라 이를 제어할 시스템과 기술적 도구를 갖춰야 한다'고 미국 정부에 촉구하고 있습니다. "주요 AI 기업들이 AI 연구를 자동화하는 단계에 근접하고 있으며, 이로 인해 기술 발전 속도는 인류가 이해하고 통제할 수 있는 능력을 훨씬 앞지를 위험이 존재한다"고도 경고했죠.
그러나 정말 개발 속도를 제어하는 게 가능할지, 의문이 드는 것도 사실입니다. 챗GPT와 클로드, 제미나이가 수개월 간격으로 업데이트 하며 성능 경쟁이 극에 달하고, 중국의 문샷AI가 '키미 K3'로 미국 최첨단 모델들을 턱밑까지 추격한 시점에서 말이죠.
AI는 세상에 어떻게 쓰일지 고민하는 시간보다 빠르게 발전하고 있습니다. 우리는, 아니 그들은 개척지를 달리는 말의 고삐를 잡을 수 있을까요.