서론: AI 안전성 선언의 이면
Q. 최근 앤스로픽(Anthropic)을 비롯한 주요 AI 기업들이 특정 국가와 연계된 AI 활용 여론 조작 시도에 대한 분석 보고서를 연이어 발표하며 주목받고 있습니다. 이 보고서들의 핵심 내용은 무엇이며, 기술적 관점에서 어떤 의미를 가집니까?
A. 앤스로픽, 오픈AI 등 주요 AI 연구소들은 자사 블로그를 통해 ‘은밀한 영향력 작전(Covert Influence Operations)’을 탐지하고 차단한 활동 결과를 꾸준히 공개하고 있습니다. 이 보고서들은 주로 중국, 러시아, 이란 등과 연계된 것으로 추정되는 네트워크가 소셜 미디어 등에서 생성 AI 기술을 활용하려 한 정황을 분석합니다. 특히, 과거부터 알려진 친중국 성향의 ‘스팸어플라주(Spamouflage)’와 같은 네트워크의 새로운 AI 활용 시도가 포착되기도 했습니다.
기술적으로 주목할 점은, 이들의 AI 활용 수준이 아직 정교함과는 거리가 멀다는 공통된 분석입니다. 보고서들에 따르면 이들 조직은 다양한 AI 모델을 실험적으로 사용했으나, 생성된 콘텐츠의 양은 적고 실제 사용자들의 참여도(engagement)는 거의 없는 수준이었습니다. 이는 현재 국가 배후로 추정되는 AI 기반 여론 조작 시도가 아직은 영향력이 미미한 ‘저품질 실험’ 단계를 넘어서지 못했음을 시사합니다.
따라서 이 보고서들은 AI가 즉각적으로 정교한 선전·선동 도구가 될 것이라는 막연한 공포와는 달리, 현재 위협의 실체는 ‘효과성’보다는 ‘실험적 시도’에 가깝다는 실증적 데이터를 제공했다는 점에서 기술적 의미를 찾을 수 있습니다. 즉, 국가 단위 AI 여론 조작의 파급력은 아직 입증되지 않았습니다.
지정학적 행위자로서의 AI 연구소
Q. 그런데 이러한 보고서 발표를 두고 일각에서 ‘위선적’이라는 비판이 제기되고 있습니다. AI 안전을 추구하는 기업의 당연한 활동으로 보기 어려운 이유는 무엇인가요?
A. 비판의 핵심은 이들 AI 연구소의 ‘선택적 투명성’과 ‘지정학적 편향성’에 있습니다. 앤스로픽과 같은 기업들은 ‘인류에게 유익한 AI’라는 기치 아래 AI 안전성을 최우선 가치로 내세웁니다. 그러나 이들이 발표하는 보고서는 특정 국가들(중국, 러시아, 이란 등)의 활동만을 ‘위협’으로 명시하고 공개적으로 경고합니다. 이는 AI 오용 문제를 순수한 기술적 안전성의 관점이 아닌, 미국의 외교 정책과 보조를 맞추는 지정학적 행위로 해석될 여지를 남깁니다.
예를 들어, 미국 내 정치 캠페인이나 서방 동맹국들의 정보기관이 유사한 기술을 활용하는지에 대해서는 동일한 잣대로 감시하고 있는지 공개된 바 없습니다. 이는 ‘AI의 해악’이라는 개념이 보편적 기준이 아닌, 자국의 국익에 따라 선택적으로 적용될 수 있다는 의구심을 낳습니다. 결국 AI 안전성이라는 고결한 명분이 특정 국가들을 겨냥한 ‘정보전의 도구’로 활용되는 모순이 발생합니다.
또한, 이들 대형 AI 연구소들이 아마존, 구글, 마이크로소프트 등 빅테크 기업과 미국 정부로부터 막대한 자금과 인프라를 지원받는다는 구조적 사실을 외면할 수 없습니다. 이러한 관계는 연구소의 ‘중립성’에 대한 근본적인 질문을 던지게 하며, 이들의 ‘안전성’ 연구가 궁극적으로 미국의 기술 패권 유지를 위한 수단으로 기능할 수 있다는 비판으로 이어집니다.
AI 안전성, 기술을 넘어 정치의 영역으로
Q. 그렇다면 이러한 일련의 흐름은 AI 안전성 분야에 어떤 구조적 문제를 드러내는 것입니까?
A. 이 현상은 ‘AI 안전성(AI Safety)’이라는 의제 자체가 더 이상 순수한 기술 연구의 영역에 머물 수 없음을 명백히 보여줍니다. AI 기술이 사회 전반과 국가 안보에 미치는 영향이 커지면서, ‘안전’의 정의와 범위 설정은 필연적으로 정치적이고 이데올로기적인 논쟁이 될 수밖에 없습니다.
주요 AI 연구소들의 보고서는 ‘누가 AI의 위험을 정의하는가?’, ‘그 정의는 누구의 이익을 대변하는가?’라는 근본적인 질문을 수면 위로 끌어올렸습니다. 특정 민간 기업이 자사 플랫폼의 약관 위반을 탐지하는 것을 넘어, 특정 국가와 연계된 활동을 ‘위협’으로 규정하고 공표하는 행위는 사법기관이나 정보기관의 역할과 일부 겹칩니다. 이는 민간 기업이 사실상의 외교·안보 행위자로 부상하고 있음을 의미합니다.
결론적으로, 우리는 AI 안전성 논의의 초점을 기술적 통제(예: 모델 정렬, 가드레일 구축)에서 거버넌스의 정치학으로 확장해야 합니다. AI 기술의 개발과 통제를 둘러싼 강대국 간의 경쟁 구도 속에서, 민간 AI 연구소들이 자사의 기술력과 보고서를 통해 어떻게 지정학적 영향력을 행사하는지, 그리고 그 과정에서 발생하는 윤리적·정치적 책임 문제를 어떻게 다룰 것인지에 대한 사회적 합의가 시급한 시점입니다.
분석의 전제와 함의
- 본문에서 제기된 ‘지정학적 편향성’ 비판은 주요 AI 연구소들의 공개된 보고서 발표 경향과 자금 조달 구조 등 관찰 가능한 패턴에 기반한 해석적 분석입니다.
- AI를 활용한 영향력 작전 관련 공개 정보는 진영에 따라 비대칭적으로 공개되는 경향이 있습니다. 본문의 ‘선택적 투명성’ 지적은 이러한 정보 환경의 특성을 전제로 합니다.
- 이러한 보고서들은 행위자를 특정 국가와 ‘연계된(state-linked)’ 것으로 분석하며, 정부가 직접 지시했다고 단정하는 데에는 신중한 태도를 보입니다. 이러한 행위자 귀속 문제는 본질적으로 정보 분석의 영역에 속합니다.