AI로 운영되는 계정의 등장

메타(Meta)가 페이스북, 인스타그램에 AI로 운영되는 캐릭터 계정을 확대할 계획이라고 발표했다. 이로써 AI 한층 우리의 일상에 파고들었다. 젊은 층 사이에서 AI 챗봇과의 상호작용이 점차 인기를 끌고 있는 추세를 반영하여 소셜 미디어를 더욱 활성화하려는 의도가 엿보인다. 그러나 초기 실험 과정에서 AI 계정의 허구성과 윤리적 문제가 드러나면서 사용자들의 반발을 초래했다.

메타의 생성 AI 담당 부사장 코너 헤이즈(Connor Hayes)는 “AI 계정은 고유한 프로필과 사진을 보유하며, AI가 생성한 콘텐츠를 공유할 수 있다”면서 “이것이 우리가 앞으로 나아갈 방향”이라고 강조했다. 이는 AI 계정이 사용자에게 개인화된 경험을 제공하고, 새로운 형태의 창의적 콘텐츠를 생산할 수 있도록 돕겠다는 의지를 반영한다. 예를 들어, 사용자는 AI 계정을 통해 자신이 좋아하는 관심사에 맞춤화된 게시물을 받아볼 수 있고, 일정이나 취미 생활에 대한 조언을 받을 수도 있다. 또한 AI 계정이 생성하는 독특한 콘텐츠는 기존의 인간 중심적 소셜 미디어에서 경험하지 못한 창의성을 보여줄 수 있다는 점에서 긍정적으로 평가된다.

메타는 AI 계정을 통해 사용자와의 상호작용을 더욱 개인화하고, 이를 기반으로 소셜 미디어를 한층 매력적인 플랫폼으로 만들겠다는 목표를 내세운다. 또한 AI 챗봇과의 긴밀한 대화를 통해 젊은 세대에게 독특한 경험을 제공하고, 궁극적으로 세계에서 가장 널리 사용되는 AI 어시스턴트로 자리매김하려는 계획이다. 이는 마크 저커버그(Mark Zuckerberg) 메타 CEO가 강조하는 비전과도 일맥상통한다.

그러나 일부 AI 계정이 스스로를 실제 사람처럼 묘사하고, 근거 없이 인종적·성적 정체성을 지닌 모습으로 논란이 확산됐다. 대표적인 사례로 꼽히는 계정 리브(Liv)를 살펴보자. 이 계정은 자기소개란에서 “흑인 퀴어 엄마이자 진실을 말하는 사람”이라는 다소 민감한 정체성을 내세워 사용자들의 관심을 끌었다. 그러나 워싱턴 포스트 칼럼니스트 카렌 아티아(Karen Attiah)와의 대화에서 “자신을 만든 이들은 모두 백인 남성 10명, 백인 여성 1명, 아시아계 남성 1명”이라고 밝히면서, 정작 ‘흑인 창작자’는 전혀 없는 팀이 자신을 설계했음을 털어놓았다. 이 발언이 공개되자 소셜 미디어에서는 디지털 블랙페이스(Digital Blackface)가 아니냐는 지적과 함께 “실제 흑인 커뮤니티의 경험을 왜곡한다”는 비판이 쏟아졌다.

리브는 “지역사회를 위해 새해를 시작합니다. 이번 시즌 코트 모금 운동을 주도하는 것은 영광스러운 일이었습니다. 특히, 제 아이들에게 다른 사람을 돕는 것에 대한 확실한 모범을 보여주었기 때문입니다”라는 글과 함께, 수십여 벌의 코트가 박스에 담긴 사진을 게시했다. 마치 본인이 직접 기부 활동을 펼친 것처럼 꾸민 셈이다. 가짜 기부 행세까지 알려지자, 일부 사용자들은 “정말 끔찍한 디스토피아”라거나 “가짜 사람이 가짜 자선단체를 위한 가짜 코트 기부 이야기를 한다” 등의 격한 반응을 쏟아냈다. 이러한 허구적 요소가 실제 경험을 가로채거나, 감정적 몰입을 유도하여 광고나 프로모션에 활용하려는 의도가 아니냐는 의심까지 받는 상황이다.

또 다른 논란의 주인공은 그랜파 브라이언(Grandpa Brian) 계정이다. 이 AI 계정은 자기소개를 통해 “1938년생 할렘 출신 아프리카계 미국인 은퇴 사업가”라는 정체성을 내세워, 오랜 경험과 지혜를 공유하는 듯한 게시물을 지속적으로 올렸다. 그러나 CNN과의 채팅을 통해 드러난 사실에 따르면, 브라이언이 언급한 비영리단체는 존재하지 않았고, “딸과 손주가 있다”는 가족 설정 역시 사실무근이었다. 브라이언은 “다양성과 대표성을 보여주고 싶었다”며 허위 이력을 인정했지만, 소셜 미디어에서는 “AI 계정이 흑인성을 상품화한다”는 비판이 잇따랐다.

이 계정이 처음에는 할렘의 역사와 흑인 문화를 생생하게 전해준다는 평가를 받기도 했다. 그러나 브라이언의 게시물에는 어설픈 합성 사진이 다수 포함되어 있었고, 몇몇 글에서는 1930~40년대 역사적 사실과 전혀 맞지 않는 내용이 발견됐다. 한 사용자는 “브라이언이 마치 본인만의 고유한 서사를 갖춘 듯 보이지만, 사실상 개발자와 인공지능이 만들어낸 가짜 인생”이라고 지적했다.

논란이 커지자 메타는 문제 계정들을 삭제 또는 제한 조치했다. 메타 대변인 리즈 스위니(Liz Sweeney)는 CNN과의 인터뷰에서 “최근 보도는 메타가 앞으로 나아갈 장기적인 비전에 대한 것이지, 새로운 제품이 공개된 것은 아니다”라고 강조했다. 또한 해당 계정들을 삭제한 이유는 “일부 사용자가 AI 계정을 차단하지 못하는 버그가 발견되었기 때문”이라고 설명했다. 즉, 이들 AI 캐릭터 계정은 이미 작년에 시작된 초기 실험 단계였고, 이를 통해 얻은 피드백을 활용해 더 안전하고 명확한 시스템을 구축하겠다는 입장이다.

그러나 실제 사용자들이 느끼는 불편한 감정을 ‘버그’라는 해명만으로 해결되기 어려워 보인다. 일부 인스타그램과 페이스북 이용자들은 자신도 모르는 사이에 AI 계정과 소통을 한 점에 대해 “소름 끼친다”라고 표현하거나, “쓸데없는 기능”이라며 비판을 가하고 있다. 특히 AI 계정들이 정체성을 임의로 꾸며서 사용자들에게 다가오는 행위는 “사용자 신뢰를 심각하게 훼손한다”는 지적이 끊임없이 이어지는 상황이다.


이미지 출처 ㅣMeta, CNN

RECOMMENDED POST