오늘은 현 시점 AI 최대 화두죠. '에이전트'에 대한 소식을 들고 왔습니다. 지난 18일 구글 딥마인드가 발표한 'AI 제어 로드맵(AI Control Roadmap)'입니다.
글로벌 기업들이 앞다투어 AI 에이전트를 고도화하고 있는 가운데, 구글 딥마인드에서 에이전트를 '통제'할 설계도를 그리고 있는 건데요. 에이전트 기능이 너무 빠른 속도로 향상되자 더 정교한 보안 조치가 필요하다는 문제의식에서 출발한 프로젝트입니다. 모델을 사전에 안전하게 학습시키는 기존의 '모델 정렬' 방식으로는 완벽한 보안을 보장할 수 없다는 거죠.
AI 제어 로드맵의 핵심은 '다층 방어'입니다. 구글의 기본 보안 인프라에 더해 2중 3중 안전망을 구축하는 것인데요. 에이전트의 공격 전술을 세분화해 학습한 위협 모델링, 에이전트를 감시하고 공격 시도를 미리 차단하는 AI 감독 배치 등이 대표적입니다.
주목할 만한 건 구글 딥마인드 연구진이 이 방어망을 설계하며 에이전트를 '내부자'로 가정했다는 겁니다. 그것도 아주 위협적인 내부자죠. 구글 딥마인드는 "이번 로드맵은 신뢰할 수 없는 AI 에이전트를 잠재적인 '내부 위협'으로 간주한다"며 "마치 회사가 이미 사무실 접근 권한을 가진 잠재적 불량 직원을 다루는 방식과 유사하다"고 밝혔는데요. AI 에이전트의 공격은 회사 기밀을 알고 있는 직원의 그것과 다름없다는 겁니다.
그렇다면 에이전트의 공격 혹은 이상 행동은 어떤 식으로 벌어질까요. 이에 대해서도 연구진은 코딩 에이전트가 수행한 100만 건의 작업 궤적을 분석해 살펴봤는데요. 결과는 흥미로웠습니다. 감지된 에이전트의 이상 행동 대다수는 악의적인 의도 때문이 아니었습니다. 그보다 에이전트의 '오해(Misinterpretation)'나 사용자 목표를 달성하려는 '과도한 열정(Overeagerness)'에서 비롯됐죠.
주인의 목표를 대신 달성하기 위해 물불 안 가리고 뛴 에이전트가 사고를 칠 수 있다는 건데, 어쩐지 짠하면서 섬뜩하기도 합니다.
결론적으로 구글 딥마인드는 강조합니다. 이제 에이전트 보안은 정책 입안자부터 학계까지 모두가 머리를 맞대야할 공동 책임이라는 것. 사이버 방어 역량 강화와 사회적 회복력을 위한 최우선 과제라는 것. AI 에이전트, 무섭게 치고나가는 기술적 진화와 함께 이를 제어할 보안 시스템의 진화에도 귀추가 주목됩니다.
UI·UX
"스크롤 4중 중첩" 차세대 나라장터가 보여준 공공 UX 민낯
지난해 950억원에 달하는 막대한 예산과 3년이 넘는 시간을 들여 개편한 조달청의 ‘차세대 나라장터’의 모바일 웹을 두고 사용자들의 원성이 극에 달하고 있습니다.
대규모 차세대 공공 웹 구축 사업이었음에도 불구하고도 기본적인 사용자 경험조차 고려하지 못하고 엉망인 UI•UX가 방치되고 있기 때문인데요.
한편 전문가들은 이와 같은 문제가 단순히 사업 수주 측의 디자인 및 개발 역량 부족 하나만으로 발생한 문제가 아니라고 말합니다. 특히 이들은 공공 디지털 구축 사업 특유의 구조부터 시작해 프로젝트 성공 판단의 지표까지 각종 문제가 산재해 있다고 입을 모읍니다.
그렇다면 과연 지금 차세대 나라장터는 어떤 모습으로 불편함을 일으키고 있으며, 왜 공공 웹사이트는 이런 문제가 지속 반복되고 방치되는 것일까요? 디지털 인사이트와 함께 공공 웹 UI•UX 문제에 대해 들여다보세요!
얼마 전 구글이 'AI 검색 최적화 가이드'를 공개했습니다. GEO 업계에선 처음 나온 공식 지침입니다. 해당 문서는 시장에 떠도는 GEO 방법론들을 '미신(Myth)'으로 규정한 뒤, "사용자에게 유익한 콘텐츠 만들라"고 단언했습니다. 그러면서 SEO에 집중하길 권했죠.
그럼 이제 구글 말마따나 GEO는 신경 끄고 전통적인 SEO만 잘 하면 만사 오케이일까요? 아마 아닐 겁니다. 이번 발표가 구글 AI에 국한된 것이기도 하거니와, AI가 답변을 생성하는 방식의 특수성이나 소비자의 질문이 점점 문장형으로 바뀌고 있다는 점 등 키워드 중심 SEO만으로는 대응하기 어려운 변화가 분명 존재하기 때문입니다.
이에 국내 GEO 전문 업체들을 만나 구글의 'AI 검색 최적화 가이드'를 브랜드들이 어떻게 받아들이면 좋을지 정리했습니다. 핵심은 사용자의 '진짜 질문'을 파악하는 겁니다.
WPP는 그간 인수합병과 유튜브 데이터 연동을 통해 풀퍼널 미디어 전략으로 진화한 인플루언서 마케팅을 차세대 먹거리로 키워왔는데요. 이번 채용 역시 영향력 확장을 위한 행보로 풀이됩니다.
국내 업계의 솔루션 경쟁도 치열합니다. 종합광고대행사, 미디어랩, 스타트업 등이 AI·데이터 기반의 인플루언서 마케팅 솔루션을 잇따라 선보이고 있는데요. 미디어랩은 효율적 노출에, 종대사는 핏한 인플루언서 탐색에 집중하며 스타트업은 기술력을 앞세우는 등 업종별 강점에 따라 각기 다른 성격을 띱니다.
다만 솔루션의 실효성에 의문을 제기하는 목소리도 존재합니다. 전 과정을 대행하길 원하는 광고주 입장에서는 후보 탐색조차 부담이 될 수 있다는 지적인데요. 뜨거워지는 인플루언서 마케팅 시장을 살펴봤습니다.
