전체기사 최신뉴스 GAM 라씨로
KYD 디데이
산업 ICT

속보

더보기

구글 "규정 위반 영상, '머신러닝' 활용해 90% 이상 감지"

기사입력 : 2023년04월27일 13:57

최종수정 : 2023년04월27일 14:48

콘텐츠 관리 인력 2만 명 이상 투입
생성형 AI 관련 콘텐츠 관리에도 적극 대응 중

[서울=뉴스핌] 양태훈 기자 = "구글에서는 2만 명이 넘는 인력이 모든 플랫폼에 걸쳐서 콘텐츠 관리 검토 및 제거 관련 업무를 담당하고 있다. 하루 24시간 모든 시간대에 걸쳐서 평가 작업을 진행해 나가고 있으며,유튜브 영상의 94% 이상이 머신러닝 기술에 의해 먼저 감지되고 있다."

장 자크 사헬 구글 아태지역 콘텐츠 정책 총괄은 27일 서울 강남구 역삼동 구글코리아 사무실에서 열린 '구글 디코드 세션'에서 자사 콘텐츠 정책의 활동을 이 같이 소개했다.

장 자크 사헬 총괄은 "구글의 목표는 전 세계 정보를 체계화해 어디에서나 접근 가능하고 유용하게 만드는 것"이라며 "(이에 구글은) 유저와 사회에 끼쳐질 수 있는 유해함을 방지하고 낮은 품질의 정보의 전달을 제한하고자 노력해 왔으며, 각각의 제품과 서비스에 어떤 콘텐츠가 가용하게 제공돼야 하는지에 대해서도 세심하게 살펴 맞춰 나가는 작업을 진행하고 있다"고 강조했다.

장 자크 사헬(Jean-Jacques Sahel) 구글 아태지역 콘텐츠 정책 총괄. [사진=구글코리아]

또 "(콘텐츠 정책의) 핵심적인 원칙은 첫 번째 법을 근간으로 해서 불법이거나 위법인 상황들을 찾아내는 것이고, 두 번째는 (내부적인) 회사의 정책"이라며 "구글은 자사 제품과 서비스가 운영되는 나라의 법을 기반으로 해서 이를 위반하는 콘텐츠가 나타나면 그것을 제한하는 형태로서 활동을 하고 있고, 동시에 운영 원칙을 개발·유지하면서 각각의 제품과 서비스 안에서 허용되는 그리고 허용할 수 없는 콘텐츠와 행위들을 명시해 나가고 있다"고 설명했다.

구체적으로 구글은 ▲ G메일이나 챗과 같은 메시징 제품 ▲ 구글 드라이브나 포토와 같은 콘텐츠 저장 제품 ▲ 유튜브와 같은 동영상 공유 서비스 ▲ 광고 수익화 제품인 애드 등 각종 제품과 서비스에 따라 다른 기준을 세워 콘텐츠를 관리하고 있다.

장 자크 사헬 총괄은 "각각의 구글 서비스들에 대해 제약의 정도는 낮은 수준에서부터 높은 수준에 이르기까지 다르게 적용이 되고 있는데, 구글 검색 같은 경우는 개방형 오픈 웹상의 모든 페이지들에 대한 일종의 목록 역할을 하는 만큼 제약의 정도가 좀 낮은 사례라고 볼 수 있다"며 "반면, 애드 제품들 같은 경우는 제약성이 높은 영역이라고도 볼 수 있다. 유해한 콘텐츠나 경험을 제공하는 사람들로부터 회사가 광고 수익을 얻고 싶지 않기 때문"이라고 전했다.

구글 로고. [사진=로이터 뉴스핌]

이어 "각각의 플랫폼 유형에 적합한 규정이라든지 가이드라인들이 구축되어 있고, 보편적인 유해성의 경우 모든 제품과 서비스에 거쳐 전면적으로 금지될 수 있지만, 유해성을 평가해 봤을 때 그 정도가 제품과 서비스에 다른 모습으로 발현될 수 있다"며 "예를 들어 일반적으로 나체라든지 노골적인 성적 행위에 대한 구술 또는 시각적인 표현이나 묘사는 당연히 금지가 되지만, 예외적으로 교육적인 측면에서 활용된다든지 기록적 그리고 과학적 용도로 표현이 되는 이런 나체나 성적 행위에 대한 내용들은 예외가 될 수 있다"고 덧붙였다.

더불어 "구글은 새로 발현되는 유해 행위를 파악하고 구글의 기존 정책에 존재해야 하는 격차가 있다는 경우들에 대응하기 위해 전문가들의 인풋, 유저 피드백 그리고 신뢰 기반의 신고자들의 의견, 규제 당국의 가이던스 등 여러 도움들을 받아서 부족한 부분들을 파악해 나가고 있다"며 "현재 구글에서는 2만 명이 넘는 인력이 회사의 모든 플랫폼에 거쳐서 콘텐츠 관리 검토 및 제거 관련 업무를 담당하고 있으며, 한국어를 포함해서 다양한 언어를 구사하는 리뷰어들이 있는데, 법적 삭제 요청과 표시되어 있는 플래그들을 하루 24시간 모든 시간대에 걸쳐서 평가 작업을 진행해 나가고 있다"고 강조했다.

나아가 "(구글은) 머신러닝을 도입, 콘텐츠 관리 검토 관련돼 있는 수많은 작업들을 진행해 나가면서 회사가 파악하는 디텍션 레이트를 높였고, 유저들의 보호 조치도 강화시켜 나갈 수 있었다"며 "머신러닝은 분류하는 클래스들을 개발해 유튜브 정책에 위반되는 동영상들을 파악하는 그런 작업을 진행해 나가고 있고, 이런 작업들은 구글은 2017년부터 진행해 왔는데 2022년 4분기에 삭제된 유튜브 영상의 94% 이상이 머신러닝 기술에 의해 먼저 감지되었고, 이 중 71% 이상이 삭제되기 전 조회수 10회 이하를 기록했다"고 전했다.

오픈AI와 챗GPT 로고 [사진=뉴스핌DB]

한편, 구글은 최근 생성형 AI를 활용한 콘텐츠가 증가하는 것과 대해 유해 콘텐츠를 관리하기 위한 프로세스 마련에 전념하겠다는 의지를 내비쳤다.

장 자크 사헬 총괄은 "먼저 생성형 AI 관련 콘텐츠에 대한 우려 부분에 대해서 언급하기에 앞서 기술 발전 측면에서 따져봤을 때 회사가 매우 기대가 되는 시기에 활동하고 있지 않는가라고 생각이 된다"며 "새로운 기술 발전을 위한 긍정적 측면들도 분명히 있다는 것을 저희가 먼저 이해를 하고 설명해야 할 것 같은데, 그럼에도 불구하고 회사가 아직도 이 기술 발전의 초기 단계에 있다보니까 이런 문제점들이 나타나는 것 같다"고 말했다.

이어 "구글에서는 이 콘텐츠 관련돼서 굉장히 큰 책임감을 느끼고 관련되어 있는 작업들을 책임감 있게 진행해 나가 왔다. 관련돼 있는 정책도 설립하고 그 정책들을 집행해 나가는 것도 진행, 꾸준히 이행해 왔고 머신러닝 기술들을 활용하는 것뿐만 아니라 시스템 구축하고 프로세스를 구축하고 또 관련돼 있는 인력들을 트레이닝 시켜서 유해 콘텐츠에 대응하기 위한 많은 노력들을 전개하고 있다"며 "새로운 기술을 기반으로 한 신규 제품들이 나옴에 따라서 저희는 또 동일한 원칙을 그대로 적용할 것"이라고 강조했다.

또한 "AI 기반의 테크놀로지들이 발전한다 할지라도 과거에 했었던 것처럼 꾸준히 열심히 콘텐츠 관련돼서는 노력을 하게 될 것이고 콘텐츠 관리와 주제에 대해서 저희가 많은 노력을 그대로 경주해 나갈 것"이라며 "유해한 부분들은 끊임없이 과거에 했었던 것처럼 엄격하고 또 열심히 다루어 나가도록 하겠지만 또한 동시에 이 신기술이 제공하는 기회들은 또 적극적으로 활용할 수 있게끔 도전 과제와 기회 양쪽을 다 잘 활용해 나가도록 노력할 것"이라고 덧붙였다.

dconnect@newspim.com

CES 2025 참관단 모집

[뉴스핌 베스트 기사]

사진
위례과천선 광역철도 민자적격성 통과 [서울=뉴스핌] 최현민 기자 = 경기 과천시와 서울 강남구, 송파구 일원을 연결하는 위례과천선 사업이 본궤도에 오른다.   국토교통부는 위례과천 광역철도사업이 한국개발연구원(KDI)의 민자적격성 조사를 통과했다고 7일 밝혔다. 위례과천선은 서쪽으로는 정부과천청사, 동쪽으로는 송파구 법조타운과 위례신도시를 연결하고 북쪽으로는 강남구 압구정까지 연결하는 총 연장 28.25km의 광역철도 사업으로 민간투자방식으로 지어진다.  위례과천선 노선도안 [자료=국토부] ※노선 미확정 위례과천선은 제4차 국가철도망 구축계획 반영 후 2021년 12월 '대우건설 컨소시엄'에서 국토부에 최초제안서를 제출했으며 제안서 검토 및 지자체 협의과정을 거쳐 2022년 9월 민자적격성 조사에 착수했다. 민자적격성 조사 과정에서 원자재 가격 급등, 양재첨단물류단지 개발 등 여건 변화가 발생했고 경제성을 최대한 확보하기 위한 사업계획 보완을 거쳐 올해 11월 최종적으로 사업의 타당성을 인정받았다. 특히 본 사업 영향권에 있는 9개 공공주택지구에 총 8만6000명 규모의 입주가 예정돼 있어 신규 철도노선을 통해 선제적으로 교통난을 해소해 나갈 계획이다. 입주 예정 지구는 과천주암 공공지원주택지구, 서울강남 공공주택지구 등이다. 다만 노선안은 아직 확정되지 않았다. 국토부는 세부노선 및 역사는 실시협약 체결 시 확정‧공개할 방침이다.  윤진환 국토부 철도국장은 "내년 전략환경영향평가를 마무리하고 제3자 제안 공고를 통해 우선협상대상자를 선정해 협상까지 착수하는 것을 목표로 속도감 있게 사업을 추진할 계획"이라고 말했다. min72@newspim.com 2024-11-07 17:36
사진
의왕 오전왕곡, 1.4만 가구 들어선다 [서울=뉴스핌] 최현민 기자 = 2029년 개통예정인 인덕원~동탄 복선전철 그리고 수도권광역급행철도(GTX) C노선이 연계되는 경기 의왕시 오전동, 왕곡동 일대에 약 1만4000가구가 들어선다. 5일 국토교통부에 따르면 지난 8월 발표한 '주택 공급 방안' 후속 조치로 의왕 오전왕곡지구가 신규 택지 후보지로 선정됐다. 오전왕곡지구는 경기도 의왕시 오전동, 왕곡동에 걸쳐 있고 187만㎡(57만평)에 1만4000가구가 들어선다. 의왕 오전왕곡은 경수대로·과천-봉담 간 도시 고속화 도로에 연접한 부지로 산업 기능 유치 잠재력이 높은 곳으로 난개발 방지를 위한 계획적 개발이 요구되는 곳이다. 특히 지구 내 친수 공간이 풍부해 정주 환경이 우수하고 인접한 과천지식정보타운 등과 연계한 의료·바이오 산업 유치에 유리해 자족 기능 확보를 통한 수도권 남부의 새로운 직주 근접 생활 공간 조성이 전망된다. 의왕 오전왕곡은 서울시 경계에서 약 10㎞ 남측, 의왕 IC 인근으로 인접 지역에 의왕·군포·안산 신도시, 의왕고천지구, 의왕백운밸리 등이 위치하고 있다. 과천~봉담 도시 고속화 도로, 경수대로(국도 1호선)가 인접하고 있으며 의왕시청역(가칭) (동탄~인덕원선, 2029년 개통 예정)이 700m 거리에 위치한다. 현재 도시철도 혜택을 받지 못하는 오전왕곡지구는 주변에 형성되는 3개 광역철도와의 연계에 촛점을 맞추고 있다. 국토부는 수도권광역급행철도(GTX)-C, 인덕원-동탄선과의 연계 강화를 통해 서울 도심까지 30분 내 접근이 가능하도록 교통망을 구축하겠다는 계획이다. 우선 GTX-C 노선 연계성, 인덕원~동탄선 접근성 강화 등 철도 교통 접근성을 향상시킨다. 이와 함께 대상지 북측으로 월곶~판교선이 예정돼 있는 만큼 현재 주거단지로 바뀐 백운호수 일대와 연계하는 방안도 고려될 전망이다.  현 과천-봉담 고속화 도로와 경수대로(국도 1호선)의 연결 및 주변 도로 확충을 통해 서울 등 지역 간 접근성 개선 및 교통량 분산도 추진한다. 의왕 TG 광역버스 정류장을 활용한 광역 대중교통 환승 체계 개선과 오전동과 왕곡동으로 분리된 사업 지구 간 도로 연결 체계를 구축해 지구 간 단절을 해소하고 단일 생활권으로 조성한다. min72@newspim.com 2024-11-05 15:00
안다쇼핑
Top으로 이동