▲ 마르그레테 베스타게르 EU집행위원회 부위원장 ⓒEU

독일 공용 국제 방송인 ‘Deutsche Welle(도이체 벨레)’가 지난 20일 온라인을 통해 EU(유럽연합)의 새로운 문제에 대한 도전과 이를 극복하기 위한 노력을 다루었다. “새로운 유럽 센터는 온라인 혐오 발언과 싸우고 있다.” DW는 이 기사에서 새로운 유럽 센터가 온라인 상에서 확산되는 혐오 발언과 선동을 줄이기 위한 노력을 자세히 소개했다.

스페인 세비야에 위치한 이 새로운 센터의 이름은 ‘European Center for Algorithmic Transparency’(ECAT, 유럽 알고리즘 투명성 센터)이다. ECAT는 온라인에서 유포되는 인종차별적, 성차별적 모욕, 기타 형태의 혐오 발언, 심지어 폭력을 요구하는 행위의 심각성을 인지하고 이에 대응하기 위해 설립되었다. Facebook(페이스북)이나 Twitter(트위터)와 같은 Social Media Platform(소셜 미디어 플랫폼)의 매우 적대적이고 공격적인 모습의 원인과 대응책을 마련하기 위한 것이다.

소셜 미디어 플랫폼은 오랫동안 사용자에게 단순한 오락 이상의 기능을 제공해 왔다는 점은 새로운 사실이 아니다. 또한 정보 전쟁, 가짜 뉴스 확산, 극단주의 단체 동원에 악용되는 경우도 빈번하다. 주로 젊은 층이 이용하는 TikTok(틱톡)과 같은 동영상 플랫폼에서는 ‘섭식 장애’와 ‘자해’를 조장하는 콘텐츠도 유포되고 있다.

이미 오래 전부터 각국의 시민사회단체나 정부, 전문가들이 이 문제에 대해 소셜 미디어 플랫폼의 운영자들이 적어도 부분적인 책임이 있다는 점을 지적했음에도 불구하고 지금까지 적절한 조치를 취하지 않았다. DW는 ‘Josephine Ballon(조세핀 발롱)’의 “이러한 플랫폼은 사용자가 생성한 콘텐츠가 저장되는 장소일 뿐만 아니라 콘텐츠 배포 방식을 결정하는 알고리즘 시스템도 포함하고 있다.”는 언급을 소개했다. 조세핀 발롱은 온라인 혐오 발언의 피해자를 돕는 단체인 HateAid의 소속이다.

페이스북 등과 같은 소셜 미디어 플랫폼은 콘텐츠 내용 자체에 대한 직접적인 책임은 없지만, 복잡한 알고리즘을 통해 콘텐츠가 공유되는 방식에 대한 책임이 있다는 점을 분명히 했다. 이러한 시스템은 데이터를 수집해 사용자가 Feed(피드)에서 볼 수 있는 콘텐츠와 볼 수 없는 콘텐츠를 결정한다. 페이스북의 경우, 사용자가 ‘Like(좋아요)’를 누르고 댓글을 단 게시물은 사용자에게 표시되는 콘텐츠로 계산되는 현상을 언급한 것이다.

그러나 이러한 알고리즘에는 외부에서 이해하기 어려운 프로세스이다. 조세핀 발롱은 DW와의 인터뷰에서 “이러한 알고리즘은 공개되지 않았기 때문에 실제로 어떻게 작동하는지에 대해서는 거의 알 수 없다.”고 지적한다. 전직 페이스북 직원이었던 ‘프랜시스 하우젠’과 같은 내부 고발자들은 페이스북 알고리즘이 혐오를 확산하는 양극화 콘텐츠에 더 높은 등급을 부여하며, 이는 결국 사회 전체에 치명적인 결과를 초래한다는 내용의 문서를 공개했다.

EU는 바로 이 문제를 정면으로 다루고, 해결 불가능해 보이는 문제를 해결하기 위해 첫 발걸음을 옮겼다. 2022년 11월, ‘Digital Services Act(DSA, 디지털 서비스법)’이 발효된 것이다. 이 법은 온라인 서비스를 규제하며, 특히 4,500만명 이상의 사용자를 보유한 플랫폼에 대한 EU의 인터넷 규정을 명확히 하기 위해 마련되고, 서비스 제공업체가 알고리즘 시스템을 포함해 서비스의 시스템적 위험을 조사, 분석 및 평가하도록 요구하고 있다.

또한 이 법은 연구자들이 빅테크의 데이터에 더 많이 접근할 수 있는 권한을 부여한다. 앞으로 빅테크 기업은 매년 유해 콘텐츠에 대한 위험 평가 보고서와 함께 계획된 대응 방안을 EU 집행위원회에 제출해야 한다. “디지털 서비스법이 국가 차원의 다른 규제와 차별화되는 점은 투명성 측면”이며 “이 법을 통해 플랫폼의 기술적 기능을 처음으로 관찰할 수 있다.”고 조세핀 발롱은 설명한다.

“물론 내부 고발자와 분석을 통해 이미 몇 가지를 알고 있지만, 플랫폼이 비밀리에 활동할 수 있도록 허용되어 왔기 때문에 여전히 큰 그림을 파악하지 못하고 있다.”

▲ 온라인 혐오 발언의 피해자를 돕는 단체 HateAid 소속의 조세핀 발롱. 그녀는 피해자들이 정보 부족으로 인해 수년 동안 어둠 속에서 헤매고 있다고 말합니다. ⓒAndrea Heinsohn/DW

ECAT가 유럽 현지 시각으로 18일(화) 공식 출범했다. AI 전문가, 데이터 과학자, 사회과학자 등 약 30명의 직원이 다른 전문가들과 연락을 유지하며 DSA의 이행에 대해 EU집행위원회에 자문을 제공할 예정이다. 이 센터와 디지털 서비스법은 빅테크 기업이 사용자에게 콘텐츠를 추천하는데 사용하는 알고리즘을 보다 투명하게 만드는 것을 목표로 한다. EU집행위원회의 ‘Margrethe Vestager(마르그레테 베스타게르)’ 부위원장에 따르면, 이 센터가 “처음으로 초대형 온라인 플랫폼과 초대형 온라인 검색 엔진의 내부를 들여다보고, 이들의 알고리즘이 어떻게 작동하며 너무 많은 유럽인이 노출되어 있는 불법적이고 유해한 콘텐츠의 확산에 기여하는지 살펴볼 것”이라고 강조했다.

하지만 EU의 이러한 노력은 충분할까? “디지털 서비스법은 우리가 더 이상 빅테크 기업과 기술 발전에 휘둘리지 않는다는 것을 보여주기 때문에 중요한 단계라고 생각한다.”며 “민주주의 사회로서 우리는 어떤 조건을 설정하고 플랫폼이 어떤 조건을 준수해야 하는지 결정할 수 있다.”고 AlgorithmWatch의 안젤라 뮐러는 DW와의 인터뷰에서 이와 같이 언급했다. “디지털 서비스법이 특별히 혁명적이라고 생각하지는 않지만 올바른 방향으로 나아가는 중요한 단계인 것은 분명”하며, 특히 규제가 거의 없는 EU 소속 국가들이 이 법안의 혜택을 받을 수 있을 것이라고 그녀는 덧붙였다.

이러한 EU의 노력, 데이터에 대한 새로운 액세스를 통해 페이스북을 포함 소셜 미디어 플랫폼의 활동을 모니터링할 수 있지만 한 가지 중요한 질문이 남아 있다. 플랫폼이 규제를 피하려고 노력하지 않을까? “나는 그들이 이러한 요구 사항을 완화하기 위해 모든 노력을 다할 것이라고 확신한다.”고 안젤라 뮐러는 예상한다.

그녀가 지적한 또 다른 문제는 새로운 센터의 인력 배치와 플랫폼을 운영하는 사람들로부터 전문 지식을 수집하는 역량 구축이라고 알려진 것이다. 뮐러는 “실제로 이러한 문제를 해결할 수 있는 인력이 있는지 의문”이라고 지적한다. 전문성을 언급한 것이다.

한국은 이러한 EU의 흐름을 어떻게 받아들이고 실천해야 할까? 정보통신망법 개정안 논쟁 중에 보인 모습은 EU 행보와는 전혀 다르다. 특히 해외에서와는 달리 국내에서 더 큰 영향력을 발휘하고 포털사이트의 규제에 집중되어 있다.

소위 편집 방향을 규제하고 제한하는 것이 주가 되어 있다. 민감한 기사에 대해서는 아예 댓글창을 없애버리는 방식으로 나아가고 있다. 물론 이러한 활동이 문제를 해결하는데 도움이 안 되는 것은 아니지만, 방향을 잘못 잡은 것 같다.

초점은 온라인을 통해 유포되는 알고리즘, 즉 혐오 발언 확산과 이를 감소시키는데 역량을 집중해야 할 것으로 보인다.

이정훈  typology@naver.com

<저작권자 © 에큐메니안, 무단 전재 및 재배포 금지>