오픈AI, AI 생성 이미지까지 가려내는 아동 성착취물 탐지 도구 무료 제공…챗GPT엔 경고·24시간 이용 중지

검증된 기관에 API로 무상 제공…AI 생성 여부 신호 담은 첫 범용 분류기

챗GPT서 관련 시도 땐 경고·대화 삭제, 반복하면 계정 폐쇄·당국 신고까지

방패 안 이미지 목록을 돋보기가 살피고 양옆에 경고 표시·일시정지 시계·도움의 손 아이콘이 있는 온라인 안전 개념 삽화
유해 이미지 탐지와 경고·이용 중지·도움 안내로 이어지는 온라인 아동 보호 조치를 표현한 개념도. 실제 오픈AI 도구 화면이 아닙니다. AI 생성 삽화. 실제 인물이나 현장 사진이 아닙니다.

오픈AI가 16일(현지시간) 온라인 아동 성착취물(CSAM)을 찾아내는 새 이미지 분류 도구와 챗GPT 안의 차단·경고 조치, 개발자용 안내서, 아동 보호 수사기관 지원 계획을 한꺼번에 내놨다. 생성형 AI로 만든 이미지까지 악용되는 상황에서, 탐지부터 대응까지 업계가 함께 쓰는 도구를 늘리겠다는 취지다.

AI가 만든 이미지인지도 알려 주는 탐지기…검증된 기관에 무료

새 분류기는 이미지에서 학대의 시각적 징후를 찾아, 이전에 보고된 적 없는 새로운 이미지도 가려내도록 설계됐다. 결과를 점수로 돌려줘 검토 인력이 어떤 이미지를 먼저 살펴야 할지 정하도록 돕는다. 오픈AI는 이 도구가 해당 이미지가 AI로 만들어졌을 가능성을 따로 알려 주는 신호를 갖춘, 널리 쓸 수 있는 첫 CSAM 분류기라고 설명했다. 개발 과정에는 미국의 아동 착취 신고 창구를 운영하는 비영리단체 NCMEC(미국 실종·착취아동센터)가 학습과 평가를 도왔다.

분류기는 심사를 거친 기관에 오픈AI API를 통해 무료로 제공된다. 업계 연합체인 테크연합(Tech Coalition)과 오픈소스 안전 도구 단체 ROOST가 보급을 함께 맡는다. 오픈AI가 이용자 업로드 이미지로 기존 보호 장치와 비교한 결과, 새 분류기는 비슷한 수의 학대 이미지를 찾으면서도 검토 대상으로 표시하는 이미지는 약 48% 적었고, 표시된 이미지가 실제 학대물일 가능성은 약 2배 높았다. 초기 참여 기업의 시험에서는 고신뢰 판정의 72%가 새로운 CSAM으로 확인됐다는 결과도 소개됐다. 이 수치들은 오픈AI와 초기 참여사가 밝힌 자체 평가다.

챗GPT서 찾으려 하면 경고하고 24시간 이용 중지

챗GPT에는 학대물을 찾으려는 시도를 끊는 경고 기능이 추가된다. 경고 화면은 아동을 성적으로 다루는 것이 AI 생성물이라도 피해를 낳는다는 점과 그 결과를 설명하고, 행동을 멈출 수 있도록 전문 지원 기관을 안내한다. 동시에 해당 대화를 지우고 24시간 동안 챗GPT 이용을 중지한다. 위반이 반복되면 이용 제한이 길어지고, 결국 계정 폐쇄나 당국 신고로 이어질 수 있다.

개발자 안내서·수사기관 지원도…"한 회사로는 못 막는다"

오픈AI는 테크연합, 손(Thorn), NCMEC, 인터넷감시재단(IWF)의 의견을 반영한 개발자용 CSAM 대응 안내서도 공개했다. 서비스 단계별로 이용자 신고 창구, 탐지 도구, 의심 사례 검토·신고 절차를 갖추는 방법을 담았다. 아동 보호 전담 수사기관에는 긴 채팅 기록과 법적 절차 자료를 검토하고 연결고리와 시간순 정리를 돕는 AI 도구와 교육을 제공할 계획이며, 이용 여부는 기관의 승인과 프로그램 요건에 따라 정해진다.

오픈AI는 온라인 아동 보호가 개별 기업만으로는 해결할 수 없는 문제라며 업계·보호단체·수사기관과의 협력을 강조했다. 다만 이번 발표는 회사의 도구 공개와 자체 평가 결과로, 실제 현장의 탐지 효과는 앞으로 도구를 쓰는 기관들의 운영 결과를 통해 확인될 전망이다.

참고 자료: 오픈AI 공식 블로그 「Strengthening the fight against online child sexual abuse with new tools and support」

작성 2026.11.19 12:08 수정 2026.11.19 13:22

RSS피드 기사제공처 : 디지털에듀타임즈 / 등록기자: 강훈 기자 무단 전재 및 재배포금지

해당기사의 문의는 기사제공처에게 문의

댓글 0개 (/ 페이지)
댓글등록- 개인정보를 유출하는 글의 게시를 삼가주세요.
등록된 댓글이 없습니다.
Vic Vik 반려동물 계단 3단 야... 31,800원
Vic Vik 반려동물 계단 3단 야광 미끄럼방지 관절보호 고탄성 메모리폼 침대 소파용
https://ads-partners.coupang.com/image1/sruHT4R5HD4ppFdKsrA-bOY0ibxIVLYMlfM_SYJEMQpTUfnjtp1kst5EX0gESAAyRzUEH8TcrjYxCCr2afxeJOTFcLL2jyB-NZBRFaAahiuvln9GnV69h9ISz1Re2jth_-KsYRpfK4nDM7FAW1h9zxdM9yIZbD-qp7SWdflKkpIeJ2l-Lacp1KTxJC-1Mj2ytiDuTWtKfkpz8JTAd4CDILCe9xNFeoaHDqXUCHhsnS0uJ-BtH6j9lQQcSINivO1mFPuyGZaGRsW-fnBxIDPgZsdEKNNgWIK21jJgnyE5Bkq1HjiisCi7SUiYvBekv9xe-89ILp96x3qKrKFcsBvbzfMB0r-OfeVbw3QlXA1Sn_SRZn6H1jjB4xt8AVxR4uxS03G-N-H9W7UI9qsa_dNIwFN1JgqIs4J6CZtcMSIhBbfb4anteo_xrY0fS6BBlxz5pzAgyX_P8xi2zZ6_1748oY0ZRjSieWZN2EnnNEXuSs9z5ngx0Q5X1_ITnK5nxs6sgeUaAXg22U25GjbBmdyl5_r6nZ0IbhlczgcTBGp32oTd_hg=
자세히보기
냥멍하우스 바스락북 강아지 혼자놀기 ... 5,900원
냥멍하우스 바스락북 강아지 혼자놀기 소리나는 신문책 장난감
https://ads-partners.coupang.com/image1/5qCfCTwN2sIzI_Wh5qJ6w3DjETp1jxGoOgczSO0Xn0YyWa63MrG0ZMbRmVYAt_i32HwIx1W_5BS9aADvLjaViGYw6my3oe2AVp6shn6RFvnNTbeB_89QfvaugLK2livXpDW626BYVmRy84a8ijqzt_AmBuNC_bSTQ_OaggrNPAsJdj8rRhyPUo_HuavNPNrLg3w_Z1cyhAoUycEG3LWzNpazdnFPZZNWK_jzziLg3WujAdEVS6qv09byWoGBiZOMjCbJWhbssi4FyYPCseglfIqA2IREy3TkfsyXRKfSijO1XFHsup1pUre2hmDlOafJJ6Bw8fk6KRM8KjsZFv7vLDDQKPmAqFywAFQL-L9xMaFK5WZ2ZsRX-vt9mxn-7aGkulxczO0ME0QRokG_1qp5RsamL5HZPVwN4jjhdzQGVt4kTbPcEKKB3NoTyZaFMSZpcGOAJsfglNdH1Z_7zojraL3MFzTxruQVE7Rx-BLsffiKSbcEJ6hq7Y9jiQDyQRDeJYXnHHsM9NCQSPiOjtJIO9sB5zk4hpyDivN9SSqOq-wgQe1K
자세히보기
파이 촘촘 고양이 스쿱 배변삽 똥삽 ... 4,980원
파이 촘촘 고양이 스쿱 배변삽 똥삽 화장실삽 모래삽
https://ads-partners.coupang.com/image1/HiwvHD8CpYi-Mv9nHr7p55U5JVXwDGMTmjT6eIm7Ojzv624wxKtnV6XmAWHaupsLZmwZyFpsi8SoZvNwQSz4T4WnpyvfMi1O6pW1PbZ4E9oIUz-MVdR1PO_K2iESXaf97mpbOiACC_SwdWIa0gQW_3J68DhuqBggvSWS81pZqsaOCXJw15yLg45Ke8ZsY9yw3KCv8tzRAkEKv7fiI8ELpXNmsMBe8lhbecA1gaBkcnlQ64RtucXNzAkCVMYBhPCCAD0txddauCpmfiX38jwNRwJOCenp1ux5xLXoLAxUkqP0ha2IOR1HICIU7mCwqI0U0Psk0-fyKCbIK9KCuGEOw7RQYvVDeTT0OQtuPi9qxXH1TFHG1cCXzGHXi6loPXp_zJMZKmIG3JLBiHk8z8oiXZvTJrOaNUPYs2BFTRrK0UnwTKTfy4QjgMz8-fH0Cs_UnLjHG5Vot_nKS5HkTS0MsNxDy--14d88Qf8VMk53gDzmsXe3WRd0eQohsHMMWZVnyV7-VzKcyHWmq1J_33RkxYjyZZ6vnWAGWlaYIQ6flxQKJjIx
자세히보기
아이리버 반려동물 이발기 흡입식 바리... 29,490원
아이리버 반려동물 이발기 흡입식 바리깡 발바닥 애견 고양이 강아지 IPT-HC261, 화이트, 1개
https://ads-partners.coupang.com/image1/duoGfyd6w7DUcvT_dqJUgijS53wVh4jk5wLup3XxUJF2sLcrrZe1DNAzSBOx98EaSEV8xVBc3hjycpELTSSf2imTzM8TMdyWNaezECWvnk9nw9dnQ1t73R0x1-vfmon1Aagk1j5knXxFjgI1-ShdfiQaxJp5IjQKUbB2-q-EIXK4uboPRkgMYirCbIU7pRHW025_fQQQPQgWl5O8Cng0GwDKm3NqYR5Q7PGBKpvGVIUHk3LHt7d2fJ-GtXkqDgDL6Xh29UM_LMV4Y9LAHh_InAW83CkA6sLEA9TgVnsOwUXH_0mxZ3yuwV5eda4NGq0grB2NveQR7id1vX9oxovop3Lw1APEBGeGNgJLkaKs3J2B7AX1KFERABoTw3erxdAIdTiX0lgXLaMnbNw9pAOYl0cDdWm53RXON0d08WI02ZKSibzpJeJb9OFJkMR6Dh1Znr8OFjC6IpWhIozjGV8QPQCZoqa8hMhTSCC1GhLDC_WLhTV3riut-QiXFjXXi9KaPS3gOCsMga6Wzo5437qeYjhVvBBTm1V0
자세히보기
TOPMOX 강아지 목욕 거치대 접이... 19,880원
TOPMOX 강아지 목욕 거치대 접이식 반려동물 미용 거치대 샤워 해먹 드라이 발톱관리 소형견 고양이 겸용
https://ads-partners.coupang.com/image1/-00qwf-lTlDW2bt3-5U1hQ7iQLIDlrRnw9lcrreJ51T9HgT0b2_Cn_v48CeGEjvGZ_kYyCgNn-Bloq-VTiVJvjvfocO9v_gYEynkIOE3mqPgbUFQPapWgT20zbjS4UbCgRBrRXWqe5q6W7YFVOSMUrXWjyTN3EwMiwlpLAfA3oAqxvAlDnC_JoHqYdRl1E_MwmcnOKqLoCFrNP7bzkRqq80jGhWnIO6a2_VzLsZ0AxEe6QqjvNPPPns_-AzL1TYwQTpF4URiplORnUlXLbi5FzIPx8O9QGB1vU3gR3_4sZjzoIXf9afL2ZnYk-TI4nmqg-GT1fymI3gpUVeba9tWsfoNtSZoE0FAjvJlmFLVjsMM13oohHsIk4AmyPDmMeqPQreGpV7F7YLiB1NBImEoVcYIgYcCwGtoDlfjVjmpBE65fq7z7YMBZHWqs2incLcMoBrf9dty7iWi4Xmmb8vYTGP_28jFIAQJEO4AdCqROrGoEMNolQ6pAoZTIY78SQQqbhmeFDN8ensMqrbwkbPvJ3nvPrEL6OjuocDbbHIMXAzb5Q==
자세히보기
바론 이지풋프로 반려동물 발바닥 바리... 24,900원
바론 이지풋프로 반려동물 발바닥 바리깡, 1개, 샌드베이지
https://ads-partners.coupang.com/image1/sTQRqbZZBTPejZ4WsUQDujcXs64LTHCBEbpbD9su-ocCeACCOfbbWf1P3ICSf9DdgG6Q51MaDBzEAdEfA1vx6CWW9NX3jZXXZ6OKLGyNoWqUamTDoSTQgZgEIrP0yI-9QFLEursjRnZaM8EHL_Hh8URXTNv8Y70PKRKQXIcpEluHtx4PpqOr-5m56tUvoh4jAmlPBvQKnAxXk69GW84w5m9EAruqNMgElH2VioewCJG8C6vDENxGWoh_PxotjLKA0RNPnFD0h-_W_NIqOIj9kDbwI4WdPjyME-Mr3fWP0GOfkhLsz_Gv7IMfwlZhhxbvQEqDXyd2yczoZqAuhhEYKrzqggfpNo-RUxPCIym__DrIXfl8t_IxaYNLgfwN2NpfJFwe-MymdAblAcA5GwL6wyZp5X2J-b8Gdx3rdDvHHR10z-meUv2BPlQ981V6ndKx3VDsr7f4SpzB62VXp0AvHoFotVF1V7ivuHqUA23sIiH1-nVs008sWtx5zggRsdXO8QZlaIyH3JUn8RTyS4equk--v7GSS31H
자세히보기
와일드 몬스터 강아지 목욕 원터치 샴... 5,000원
와일드 몬스터 강아지 목욕 원터치 샴푸 저자극 실리콘 브러쉬, 1개, 레몬옐로우
https://ads-partners.coupang.com/image1/zizpHoJCFaNj2bevzrYx67KkMF2sRoftLtkuMkxKVOkGbpNJ6uQoP_iJRRuvgv5stCBqVIqJH4ehMOivc8HJpRRqxFgI8GlG_fPzdfiA1hTPdMKRlrHwIKkDKNPK8XVJsPXqEummfILltnknDGlwEnfjyXQQGoCMH3nJJOXlUCWC_g2NPfVVunIGARbY6VZMgSLk8c_gbHknvC09pIhsRTlmIg7d60-o10_AAWwmFwi6dYFuihNC2LcYqhjA2LhTFc9hAhFecrDnnQ0R0bH0zY-7t4T7dU3rmluAOOKkEPAgYWFVkEyxVddsk4o_1t1ohaPgdy79zedVxDYqFVzvmanf_z5qdryXl6AcGkKBN2pQDLTfWTAl_7ttPuWeEJUh_6CCeRy-8lX6z66pcCiF07nxieIZqr7871TDyr2KqUhwEVRH3SdwkrNr9SxpQ7ZvCHFLasaZb9-7LHai5yDnigKre8ja7YI6Bx1_zQMztezin927FfjxrZAFfOX7HwCgjNTU_8dwXZ2xjSfNdug28VagGhxV_dQV
자세히보기
도그아이 반려동물 타이디 테이블 식기... 9,900원
도그아이 반려동물 타이디 테이블 식기 2구세트
https://ads-partners.coupang.com/image1/AEgRKE-L27KDqG0bAK4-e4tLExDF6Rs1-vdJepXt7zrHIrLib2bIZidTQNuQfJ7ExdSiHbi_7jcSSvWJ62DCaD0nCRL9GdNx28Vi074dHz8Su2O256KytqO0u3wVrKmg4S2-KjZEmGY1ln5FkiaVjCeXLKG34ve2hDaFQJkXdW7Mqa_G81nq2s65m_XMC02hQLo2RmwD0fLySipGTLa9B1YbrTkS20ca-mC1jmPLeowwKSGu-4ge97mFX67qm1TXv0fewZsNFIGOY0nKhZeE3xzib6EucBlHWb8iui3wwPUwabvmQpp88PsD0PTZEAB2kM2XWkp6-6-OuWRE3lqm3esYhDuGqdnxC-V1vPn8dweaAlusMb2cUKdzuDxiVQkIht1ezz0qtMN7EqSoTsQQ_TT7E7DMJoVmmIzGbdQM4c4PMNjj0ayVU4w9mwO_Z2-V-TpEgH0aTc1HncJSxpBbiAvvu4fafXql564RKujaH3Hg9CsH6qYU5RpvQ4me6B6xP1M1AvtJ5Rtf7FoQ-MqcDkbj2Pc=
자세히보기
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
Shorts NEWS 더보기
AI부동산경제신문 부동산 30초 브리핑 2026년 11월 19일(목)
손으로 빚은 전통의 우리떡 김해 삼방시장 낙원떡집
온라인 홍보부터 오프라인 광고까지! 사업장 홍보의 새로운 시작
사장님! 이것만은 꼭 챙기세요.
신규창업vs인수창업?
AI광고 영상 제작부터 광고 송출까지 가능한 광고대행사 준콤
자신의 분야에 전문가의 목소리를 담는 뉴스 더초이스
합법적 채무탕감 개인회생! 당신도 주인공이 될 수 있다! #개인회생상담 ..
️ 미국 핵심광물에 20억 달러 이상 투자…한국엔 위기일까, 기회일까? ..
인류와 지구의 더 나은 미래, 행동하는 환경 저널 '에콜로지 코리아(EC..
선무도 #골굴사 #전통무예 #친일반민특위
몽골 여행1
소상공인 동행-대경배관수리편-
권리금 분석은 어떻게?
더초이스 비즈니스 어워즈 고객의 선택과 신뢰를 공식적인 브랜드 가치로 증..
[준콤] 서오릉장어대장_엘리베이터광고_30초(2026)
두산위브더제니스 부천, 더블역세권 49층 2,008가구 대단지 주목!
KTX·SRT 하나의 앱으로 예약!코레일+#KTX #SRT #코레일플러스..
계좌의 내 돈을 더 이상 사용할 수 없게 된다고?
친환경 캐릭터 굿즈로 소비자 마음 사로ᄌ..
독립 운동가 김시현
요즘 비트코인 근황
유기농 유정란 가격 비교
몽골 테를지 여행
프랜차이즈 가맹점 매도는 어떻게?
허경환 유행어 총출동! 판촉물은 세종기프트
천재 강아지 다이빙
스프링힐스, 친환경 골프장으로 18ᄒ..
유튜브 NEWS 더보기

가전 구독 고민된다면? LG전자구독과 삼성AI구독 먼저 비교하세요!

경동나비엔 숙면매트 사계절, 자는 동안 온도를 알아서 맞춰준다고?

음식물처리기 종류 4가지, 우리 집엔 뭐가 맞을까?

공기청정기 평수 계산법, 우리 집엔 몇 평형이 맞을까?

추석 연휴 끝나고 더 피곤하다면? 명절증후군 극복법|feat. 안마의자

쿠쿠 미식컬렉션 밥솥, 내솥부터 패킹까지 뭐가 다를까?

삼성 에어드레서 vs LG 스타일러, 뭐가 다를까?

추석 음식 보관법, 전·갈비찜·잡채 이렇게 보관하세요

레이윙 디스커버리 엔트리 PAS 차이, 스로틀 모델과 뭐가 다를까?

2026.11.03 용인블루인택시협동조합 신사옥 이전 기념행사 #협동조합택시 #협동조합 #용인블루인 #쿱모빌...

"고양시는 환경단체의 가짜 선동에 춤추는 꼭두각시인가?"스프링힐스 18홀 증설 논란 15년, 산황동 리포트

(MBN 방송출현)초고령 사회의 희망을 짓다 – 박은정 대표의 ‘성공의 한 수’

몽골 겨울 여행 설국 열차

플랫폼 독점 정산 기일 정상화 하라

쿠팡의 늑장 정산 해결하라

원화 주권 KORT 원스코 스테이블 코인

대한민국, 글로벌 치유관광의 중심이 되다: 마음·미생물·전통 치유식이 만나는 K-MediWell 마스터플랜

학여울역 세텍 건축박람회에 청우산업(주) 이동식황토방이 참가합니다!

[하늘소리] 11월 14일 공연, 하늘의 기운을 받아가세요

양두구육(羊頭狗肉) ‘환경’이라는 공공선을 걸어놓고 선거 때마다 ‘표’를 판다? 산황동 스프링힐스 18홀 증...