아동 보호 성과 뒤에 남은 여성 안전 공백
영국 온라인 안전법(Online Safety Act)을 둘러싼 논점은 단순한 인권 보호 법제의 성패를 넘어 플랫폼 산업의 비용 구조 문제로 이동했다. 국제 인권단체 이퀄리티 나우(Equality Now)가 공개한 정책 보고서는 이 법이 아동 온라인 안전에서는 일정한 진전을 만들었지만, 여성과 소녀를 겨냥한 기술 기반 성차별적 폭력(TFGBV)에는 충분히 대응하지 못했다고 평가했다. 이 지적은 영국만의 법률 논쟁에 그치지 않는다.
추천 알고리즘, 생성형 인공지능(AI), 신고 설계, 콘텐츠 조정 인력이 모두 기업의 손익계산서 안으로 들어오는 국면이 열렸다는 뜻이다. 영국 온라인 안전법은 2023년 10월 왕실 재가를 받아 발효됐으며, 규제기관 오프콤(Ofcom)이 단계적 집행 일정을 진행하고 있다.
온라인 규제는 한동안 콘텐츠 삭제 의무와 벌칙 수준의 문제로 이해됐다. 그러나 Equality Now 보고서가 짚은 빈틈은 더 깊다.
플랫폼이 어떤 콘텐츠를 빠르게 퍼뜨리는지, 피해자가 어떤 경로로 신고하는지, AI 합성물이 어떤 속도로 복제되는지가 모두 위험의 일부가 됐다. 법이 플랫폼의 표면 행위만 통제하면 기업은 최소한의 삭제 프로세스만 갖추고 비용을 낮출 유인을 갖는다. 반대로 설계 단계의 책임을 요구하면 안전팀, 정책팀, 머신러닝 검수, 외부 감사까지 묶인 고정비가 커진다.
본지 분석에 따르면, 산업적으로 가장 큰 변화는 신뢰와 규제 준수의 비용이 광고 기반 플랫폼의 핵심 변수로 이동했다는 점이다. Equality Now 보고서는 알고리즘으로 증폭되는 여성혐오, AI를 활용한 학대, 플랫폼 설계 문제, 피해자 구제 장벽을 법의 효과를 떨어뜨리는 요인으로 제시했다.
이 4개 항목은 모두 개별 게시물 단속보다 제품 운영 방식에 가깝다. 추천 엔진이 이용자 체류 시간을 늘리는 방향으로 설계될수록 혐오성 콘텐츠가 더 넓게 유통될 수 있고, 그 결과 광고주와 이용자 신뢰가 동시에 흔들릴 수 있다.
광고
기업 입장에서는 법무 리스크보다 브랜드 안전과 매출 안정성이 더 빠르게 손상되는 구조다. 생성형 AI는 이 비용 방정식을 더 복잡하게 만든다.
보고서는 AI 기반 시스템의 악용 방지와 플랫폼 책임 강화를 영국 정부와 오프콤에 권고했다. 여기서 핵심은 AI 학대가 콘텐츠 생산의 한계비용을 낮춘다는 사실이다.
과거에는 악성 게시물을 사람이 직접 만들고 퍼뜨려야 했지만, 이제 합성 이미지와 조작된 성적 콘텐츠는 자동화 도구를 통해 대량 생산될 수 있다. 플랫폼이 사후 신고에만 기대면 피해자의 부담은 커지고, 기업은 반복 삭제와 계정 차단에 운영비를 계속 투입해야 한다. 기업 전략의 관점에서 보면 선제 대응은 윤리 캠페인이 아니라 비용 절감 전략에 가깝다.
안전 중심 설계는 초기 개발 속도를 늦추고 검수 예산을 늘릴 수 있다. 하지만 신고 체계가 부실하거나 피해자 지원 경로가 복잡하면 규제기관 조사, 집단적 불매, 광고 계약 축소, 앱마켓 심사 리스크가 뒤따른다. Equality Now 보고서가 피해자들이 구제받기 어려운 장벽을 별도로 지목한 이유도 여기에 있다.
피해자가 플랫폼 내부에서 해결책을 찾지 못하면 문제는 규제기관과 법원, 언론 보도로 이동하고, 기업은 통제 가능한 고객지원 이슈를 통제 불가능한 평판 위기로 키운다.
AI 학대와 추천 알고리즘이 만든 새 규제 비용
오프콤의 역할도 단순 집행기관을 넘어 시장 규칙을 정하는 조정자로 확대될 가능성이 크다. 보고서는 정부와 오프콤에 기술 기반 성차별적 폭력 예방, 플랫폼 책임 강화, 피해자 보호 개선을 위한 법적·규제적 개혁을 권고했다.
이는 기업에 명확한 메시지를 준다. 플랫폼은 유해 콘텐츠를 발견한 뒤 삭제하는 조직에서, 위험이 확산되기 전 제품 구조를 바꾸는 조직으로 전환 압력을 받는다.
본지 분석에 따르면, 이 전환은 대형 플랫폼과 중소 플랫폼 사이의 격차를 키울 수 있다. 대형사는 정책 인력과 AI 탐지 시스템에 투자할 여력이 있지만, 중소 서비스는 규제 대응 비용이 성장 투자를 잠식하는 구조에 놓이기 때문이다.
광고
한국 기업에도 이 논점은 가깝게 다가온다. 국내 플랫폼과 게임, 커뮤니티, 소셜미디어 서비스는 글로벌 앱마켓과 해외 이용자, 해외 광고 네트워크에 연결돼 있다. 영국식 규제가 직접 적용되지 않더라도 해외 규제 기준은 계약 조항과 파트너 심사, 투자자 실사 항목을 통해 우회적으로 들어온다.
특히 여성 이용자 안전, 딥페이크 성적 이미지, 알고리즘 추천 책임은 글로벌 투자자가 플랫폼 리스크를 평가할 때 확인하는 영역으로 비중이 커지고 있다. 한국 기업이 이 문제를 국내 법률 준수 여부로만 좁혀 보면 해외 진출 단계에서 뒤늦은 비용을 치를 가능성이 있다. 투자자 관점에서는 온라인 안전 역량을 비용 항목이 아니라 무형자산으로 재분류할 필요가 있다.
사용자 신고 처리 속도, 합성 콘텐츠 탐지 체계, 피해자 지원 절차, 추천 알고리즘 감사 기록은 아직 재무제표에 선명하게 드러나지 않는다. 그러나 규제 환경이 바뀌면 이 요소들은 매출의 지속성과 기업가치 할인율에 영향을 준다.
규제 위반 과징금이 확정되지 않았더라도, 광고주가 브랜드 안전을 이유로 집행을 줄이거나 파트너사가 데이터 연동을 재검토하면 손실은 더 빨리 나타난다. Equality Now 보고서가 제기한 보호 공백은 인권 의제이면서 동시에 플랫폼 밸류에이션을 다시 계산하게 만드는 변수다.
반론도 있다. 기업들은 과도한 책임 부과가 표현의 자유와 서비스 운영 효율을 해칠 수 있다고 주장한다.
모든 여성혐오성 표현과 성적 학대 징후를 자동으로 식별하기 어렵고, AI 탐지 시스템은 오탐 문제를 낳을 수 있다. 이 반론은 기술적 한계를 정확히 짚는다.
다만 그 한계가 플랫폼 책임을 낮추는 근거가 되기는 어렵다. 보고서가 겨냥한 지점은 완전한 삭제가 아니라 위험을 키우는 설계와 피해자가 빠져나오지 못하는 신고 구조이기 때문이다.
한국 플랫폼 산업이 먼저 계산해야 할 리스크
정책 설계에서도 중요한 기준은 처벌 강도보다 책임의 위치다.
광고
온라인 안전법의 목표는 온라인 환경을 '세계에서 가장 안전한 곳'으로 만드는 데 있었지만, Equality Now 보고서는 특정 취약 계층 보호에 공백이 남았다고 봤다. 이 평가는 아동 보호와 여성 보호를 경쟁시키지 않는다.
오히려 같은 플랫폼 안에서도 피해 유형별 위험 모델이 다르게 작동한다는 사실을 드러낸다. 아동 안전에서 작동한 규칙이 여성과 소녀를 겨냥한 성적 학대, 합성 이미지, 조직적 괴롭힘에는 그대로 맞지 않을 수 있다.
한국 정책 논의가 배울 대목도 여기에 있다. 법률 문구에 플랫폼 책임을 넣는 것만으로 시장이 바뀌지는 않는다.
신고 버튼의 위치, 처리 결과 통지, 반복 가해자 계정 관리, AI 합성물 탐지, 피해자 지원기관 연결 같은 운영 지표를 규제 언어로 옮겨야 기업 행동이 달라진다. 기업도 같은 이유로 준법팀만 앞세워서는 부족하다.
제품 관리자, 데이터 과학자, 광고 영업, 고객지원 조직이 같은 위험 지표를 공유할 때 온라인 안전은 비용센터에서 경쟁력의 일부로 이동한다. 영국 온라인 안전법 한 편의 성패보다 중요한 것은 플랫폼 경제가 성장의 핵심 엔진으로 삼았던 추천 알고리즘과 자동화가 이제 규제 비용의 출발점으로 돌아왔다는 사실이다. 여성과 소녀에게 안전하지 않은 서비스는 장기적으로 광고주와 투자자에게도 안전하지 않은 자산이 된다.
한국 기업은 영국의 시행착오를 외국의 규제 사례로만 읽을 여유가 없다. 안전을 사후 대응 비용으로 남겨둘지, 제품 설계와 기업가치 평가의 기본 항목으로 끌어올릴지 선택해야 할 단계에 이미 들어섰다. ※ 이 기사는 Equality Now가 발간한 영국 온라인 안전법과 여성·소녀 보호 한계에 관한 정책 보고서(발간일 미확인, https://www.equalitynow.org 참조)를 참조하여 작성했다.
원본 자료에서 보고서의 정확한 발간일과 정량 통계는 확인되지 않았다. 본문 중 한국 플랫폼 산업과 투자자 관점에 관한 해석은 원본 사실을 바탕으로 한 본지 분석이다.
광고
FAQ
Q. 한국 플랫폼 기업은 영국 온라인 안전법을 직접 따라야 하나?
A. 영국 시장에서 서비스를 제공하거나 영국 이용자를 대상으로 사업을 운영하는 기업은 현지 규제와 오프콤의 집행 방향을 확인할 필요가 있다. 원천 자료만으로 개별 한국 기업의 적용 여부는 확인되지 않는다. 다만 글로벌 앱마켓, 광고 네트워크, 투자자 실사 기준은 특정 국가 규제를 참고해 계약 조건을 바꾸는 경우가 있으며, 영국 온라인 안전법이 2023년 발효된 이후 오프콤의 집행 범위가 단계적으로 확대되고 있다. 한국 기업은 국내 법률 검토와 별도로 해외 이용자 보호 정책, 신고 절차, AI 합성물 대응 체계를 문서화해 두는 것이 바람직하다.
Q. 기술 기반 성차별적 폭력(TFGBV)은 기업 비용과 어떻게 연결되나?
A. 기술 기반 성차별적 폭력(TFGBV)은 피해자 보호 이슈이면서 플랫폼 운영비와 평판 리스크를 키우는 요인이다. 신고 체계가 부실하면 고객지원 부담이 늘고, 반복 확산을 막지 못하면 콘텐츠 조정 비용이 커진다. 광고주는 브랜드 안전을 중시하기 때문에 여성혐오나 성적 학대 콘텐츠가 확산되는 서비스와 거리를 두는 경향이 있다. 기업은 탐지 기술 투자, 피해자 지원 경로, 알고리즘 감사 기록을 장기 비용을 낮추는 관리 항목으로 다루어야 한다.
Q. AI 기반 학대에 대응하려면 어떤 준비가 필요한가?
A. Equality Now 보고서는 AI 기반 시스템의 악용 방지와 플랫폼 책임 강화를 정부와 오프콤에 권고했다. 기업 차원에서는 합성 이미지 탐지, 반복 업로드 차단, 신고자 보호, 계정 제재 기준을 함께 설계해야 한다. 단일 기술 도구만으로 모든 피해를 막기는 어렵기 때문에 제품 설계와 운영 정책을 동시에 바꾸어야 한다. 이용자는 피해 정황을 저장하고 플랫폼 신고 절차와 공적 지원 창구를 함께 활용하는 방식으로 대응하는 것이 효과적이다.
▶ 법률 고민이 있다면 → 김연순법률노트 무료상담 바로가기
){kind=small}
){kind=small}
){kind=small}
){kind=small}
