안녕하세요. 최석영입니다. 

이달 초 뉴스레터에서 오픈AI 모델의 허깅페이스 침투 사건을 전해드렸죠. 오늘은 그 후속 소식을 다뤄보려고 합니다. 오픈AI가 정말 달리는 말의 '고삐'를 잡은 것입니다.

오픈AI는 지난 18일 다음과 같은 내용을 발표했습니다. "배포 예정인 최신 모델의 강화학습을 2주간 중단했고, 최대 규모의 프론티어 강화학습은 실행 자체를 보류 중". 사실상 프론티어 모델 개발을 멈추고 연구 보안과 모니터링 시스템 강화, 안전성 검증 등에 회사 역량을 집중하고 있다는 이야기입니다.

이 파격적 조치는 최근 오픈AI 모델의 사이버 공격 위협이 연달아 발생한 데 따른 결과입니다. 앞서 오픈AI는 지난달 21일, 허깅페이스 침투·공격 사건이 자사 모델의 소행이라고 공식 인정했고요. 이달 7일에는 차기 모델 '아스트라'의 사이버 방어·공격 능력이 최고 위험 등급 'Critical'에 이를 수 있다고 밝혔습니다. 참고로 'Critical'은 사람 개입 없이 보안 약점을 찾아 공격하고, 목표만 주어지면 공격 전략을 수립·실행할 수 있는 수준입니다. 오픈AI의 어떤 모델도 도달한 적 없는 등급입니다.

중단된 강화학습이 언제 재개될지 현재로서는 불투명합니다. 타임지 등 외신에 따르면, 오픈AI 연구 및 안전 총괄 미아 글래즈는 "모든 것이 정상으로 돌아오기까지는 아직 갈 길이 멀다"고 언급했고, 샘 알트먼 CEO 역시 "AI 안전을 제대로 확보하는 것이 회사의 성장세보다 더 중요하다"며 개발 지연을 감수하겠다는 뜻을 밝혔습니다.

이번 오픈AI의 발표가 특히 이목을 끄는 이유는, AI 공격을 막기 위한 안전장치 마련에 막대한 비용을 치르기 시작했다는 겁니다. 오픈AI는 모델의 이상 행동을 토큰 단위로 감지해, 비상시 30분 이내 경고를 발령하고 최대 강제 셧다운할 수 있는 모니터링 시스템을 도입했는데요. 여기에만 감시 대상 추론 컴퓨팅 자원의 20%를 쏟아붓습니다.

인간의 통제를 벗어난 AI의 사이버 공격이 점차 현실화되고 있는 가운데, 오픈AI가 먼저 브레이크를 걸었습니다. 하지만 이 조치가 업계 표준이 될지는 아직 미지수입니다. 당장 오픈AI의 최대 경쟁사 앤트로픽은 수개월 내 상장을 목표로 몸값을 최대 2조 달러로 끌어올리고 있는 상황입니다. 

안드레이 카파시가 언급해 화제가 됐는데요. 정제된 텍스트를 입력하는 대신 생각나는 대로 말을 늘어놓는 방식이 더 낫다는 거죠. 두서없는 말은 감정과 세부 정보가 담긴 풍부한 맥락을 제공해, LLM이 사용자 의도를 훨씬 정확히 파악하고 마인드 멜드 효율을 높여준다는 것입니다.

AI 음성 모델이 고도화되면서 볼 수 있는 변화입니다. 이 밖에 음성 중심의 원격 워크플로우 구축 사례도 나오고 있죠. 다만 음성 특유의 인지 과부화 등 UI·UX 한계도 지적되는데요. 음성 인터페이스가 바꾸고 있는 일터의 풍경을 자세히 알아봤습니다.

여러분들은 ‘누리집’이란 말을 들어보신 적이 있으신가요? 누리집이란 ‘홈페이지’를 순화하기 위해 만들어진 공공용어인데요. 하지만 현재 정부 권장과 달리 공공 웹에서조차 제대로 작동하지 못하고 있다고 합니다.

실제 공공언어 진단서비스 TX Public을 개발한 와이어링크의 보고서에 따르면 주요 공공웹에서 ‘홈페이지’가 814회(31.7%)나 발견됐으며, 심지어 '다운로드'와 '로그인'처럼 공공용어가 거의 사용되지 않는 등 철저히 외면 받는 사례들도 발견됐습니다.

이에 전문가들은 원인으로 시대착오적이고 불친절한 순화어 현황과 자동화 관리/진단 시스템의 부재를 짚는 동시에, 이런 문제가 구조적 정보 불일치와 과업 흐름 붕괴로 이어질 수 있다고 경고하는데요. 그렇다면 이런 문제를 어떻게 해결할 수 있을까요? 디지털 인사이트와 함께 알아보시죠!