전체기사 최신뉴스 GAM
KYD 디데이
산업 ICT

속보

더보기

SKT 에이닷도 골머리…AI가 학습한 개인정보 어떻게 관리될까

기사입력 : 2023년11월01일 15:55

최종수정 : 2023년11월01일 16:40

SKT "통화요약 불법 아냐" VS 개보위 "검토해보겠다"
"AI 학습 사각지대에 개인정보 유출 위험 있어"

[서울=뉴스핌] 조수빈 기자 = SK텔레콤, KT에 이어 LG유플러스까지 인공지능(AI) 시장에 뛰어들면서 통신사 삼파전이 AI로 번지고 있다. 이 가운데 SK텔레콤의 통화요약 기능처럼 고객 데이터를 학습하는 AI에 대한 우려가 커지면서 AI 프라이버시 확보에 정부도 가세했다.

SK텔레콤은 인공지능(AI) 개인비서 서비스 에이닷의 아이폰 앱에서 'A. 전화'를 통해 통화녹음, 통화요약 등 새로운 기능을 제공한다. [사진=SK텔레콤]

AI 학습에 가장 문제가 되는 것은 개인정보다. AI는 학습을 위해 방대한 데이터를 수집한다. 그 안에는 개인정보나 민감한 기업정보도 포함되기에 AI가 학습하는 데이터에 대한 관리도 까다로운 과제로 남는다.

이통3사는 공통적으로 현행 법에서 지정하고 있는 비식별데이터만 모은다고 밝혔다. 2020년 정부의 데이터3법 시행 이후 데이터 활용을 위한 가명정보 개념이 도입됐다. 기업 입장에서는 가명처리 된 데이터를 활용할 수 있는 법적 근거가 마련된 셈이다. 통신업계 관계자는 "이름, 나이 등 특정할 수 있는 데이터를 비식별화해서 사용한다"며 "비식별정보로도 충분히 AI 학습이 가능하다"고 설명했다.

SK텔레콤이 출시한 AI 개인비서 서비스 에이닷이 구설수에 오른 것도 개인정보 때문이다. 에이닷이 지난 10월 출시한 AI 전화 서비스는 아이폰에서도 통화녹음, 통화요약 기능을 지원한다. 아이폰이 정책상 금지한 통화녹음을 자사 기술력으로 우회해 구현한 서비스다.

SK텔레콤은 이용약관에 통화 녹음 파일과 통화 내용 속 전화번호, 일정, 계좌번호 등 정보는 1년 동안 이용자 단말기에 보관된다고 밝혔다. 통화요약을 위해서는 통화 내용이 SK텔레콤의 서버로 전송되는데 텍스트로 변환되는 즉시 자동 파기된다.

논란이 된 것은 주소, 일정 등과 개인을 특정할 수 있는 통화내용이 제3자인 SK텔레콤의 서버에 잠깐이라도 머문다는 사실이다. 현재 통화녹음 동의를 얻은 것은 SK텔레콤 이용자이며 상대방이 SK텔레콤 가입자가 아니고 에이닷 사용자가 아닐 경우 동의없이 통화 내 개인정보가 학습된다는 것이 개인정보 침해의 소지가 있다는 지적이다.

개인정보보호위원회 관계자는 "아직까지 조사에 착수한 단계는 아니며 제기된 문제에 대해 검토하는 단계"라며 "에이닷의 통화요약처럼 SK텔레콤 서버에 정보가 올라갈 경우 개인정보보호법상 개인정보 처리에 해당하기 때문에 문제가 불거진 것"이라고 부연했다.

SK텔레콤은 통화내용이 텍스트로 전환되는 즉시 서버에서 삭제된다고 반박했고 개보위 측은 이 내용이 실효성 있는 주장인지 면밀히 살피겠단 입장이다. 개보위에 따르면 통화녹음과 관련된 유사한 사례로 개인정보보호법 위반이 된 사례는 아직 없다.

지난 30일 서울 대한상공회의소에서 열린 AI 프라이버시 민·관 정책협의회 출범식에 고학수 개인정보보호위원회 위원장(왼쪽)이 위촉장을 전달하고 있다. [사진=조수빈 기자]

◆AI 학습 과정은 아직 '사각지대'…보안에 힘주는 기업들

전문가들은 아직까진 AI의 학습 알고리즘을 운영자도 정확히 파악하기 힘들다는 것이 한계점이라고 지적한다. 블랙박스는 인공지능에선 원하는대로 결과값을 도출할 순 있지만 무엇을 어떻게 학습해서 나온 결과인지 알 수 없는 상황을 일컫는다. 개발단계에서 발생하는 일종의 사각지대다.

김명주 서울여대 정보보호학과 교수는 "한 회사가 보유한 같은 서버 내에서 학습된 데이터는 사용자나 관리자가 모르는 사이 AI가 사전에 학습한 내용을 다른 서비스에 사용할 가능성도 있다"며 "학습 시킨 내부 영역들이 어떻게 다른 서비스와 융합이 되는지는 현 기술로는 파악하기 힘들다. 그렇기에 개인정보 관리에 대한 사각지대가 존재하는 것"이라고 설명했다.

이에 프라이빗 대규모언어모델(LLM), 온프레미스 등 별도의 서버를 구축하는 형식이 각광받고 있다. 김 교수는 "내부 데이터만 활용하기 때문에 검증 데이터만 활용해 할루시네이션(환각 현상)도 적다"며 "다만 비용과 인력이 많이 드는 것이 문제"라고 설명했다. LG유플러스와 KT 등 기업 간 거래(B2B) 시장을 겨냥한 기업들이 서버를 직접 구축해주는 온프레미스, 프라이빗 서버 방식을 채택하며 비용 절감을 강조하는 것도 시장의 니즈에 맞춘 것이다.

기업 역시 AI 학습이 갖고 있는 사각지대에 대해 인지하고 있다. 최준기 KT AI·빅데이터 본부장은 지난 10월 31일 열린 초거대 AI 믿음 공개 기자간담회에서 AI 학습의 편향성을 극복하기 위한 노력에 대해 "이것(LLM)이 블랙박스인 게 맞고, 99.9% 노력을 했지만 마지막 0.1%에서 저희가 생각지도 못한 이탈을 할 수가 있다"며 "대화에 있어서 사회적으로 용납이 가능한 AI를 위해 노력 중"이라고 강조했다.

정부에서도 개인정보 유출 차단 등 신뢰 가능한 AI 개발에 힘을 주고 있다. 30일 개인정보보호위원회는 고학수 개보위 위원장, 배경훈 LG AI연구원장을 공동의장으로 하는 AI 프라이버시 민·관 정책협의회 출범식을 개최했다. 해당 협의회에는 SK텔레콤, KT, LG 등 이통사도 포함돼 있다. 기업이 AI 사업을 전개하기 이전 법 위반 여부를 우려하는 경우 개보위가 사전 협의에 참여하는 사전적정성 검토제가 언급되기도 했다.

이날 고 위원장은 "데이터 처리의 회색지대(Gray Area)를 악용하거나 프라이버시를 도외시하는 AI 서비스가 국민 권익을 침해하는 일이 발생하면 해당 기업은 물론 국가 전체의 AI 혁신 동력을 해칠 수 있다"며 "AI 모델을 개발하거나 서비스 기획 단계부터 기업이 스스로 개인정보 침해 위험성을 관리하는 문화가 정착될 수 있도록 정부와 기업이 함께 노력해 나가야 한다"고 강조했다.

한편 이통3사는 하반기에 자사의 특성을 살린 생성형 AI를 공개하면서 생성형 AI 시장 진입에 대한 의지를 보였다. SK텔레콤이 가장 먼저 지난 9월 한국어 LLM 서비스인 에이닷(A.)을 정식 출시했다. 에이닷은 SK텔레콤의 AI 컴퍼니 전환의 핵심 서비스로 출시 이후 한 달만에 '아이폰 통화녹음' 기능을 공개하며 많은 관심을 받았다.

이어 지난달 29일 LG유플러스가 자사가 보유한 통신, 플랫폼 데이터와 AI 기술 역량을 통합한 통신 전용 생성형 AI '익시젠'을 개발한다고 밝혔다. 그룹사인 LG가 이미 초거대 범용 AI인 '엑사원'을 보유하고 있어 별도로 AI 개발을 고려하지 않는다는 입장을 유지하던 LG유플러스가 '통신 맞춤형'으로 전략을 달리하는 모습이다. 마지막으로 KT도 31일 초거대 AI 믿음을 출시하며 B2B 시장 개척을 위한 초거대 AI 개발에 이어 B2C 영역 진출까지 역량을 강화하겠다고 밝혔다. 

beans@newspim.com

[뉴스핌 베스트 기사]

사진
"7월 1일 출석하라" 재통보 [서울=뉴스핌] 홍석희 기자 = 내란 특별검사팀이 윤석열 전 대통령에게 오는 7월 1일 오전 9시에 2차 대면조사를 위해 출석해 달라고 통보했다. 박지영 내란 특검보는 29일 저녁 서울고검 청사에서 브리핑을 열고 "소환 일정과 관련해 윤 전 대통령 측 의견을 접수했고 제반 사정을 고려해 7월 1일 오전 9시에 출석하라고 통지했다"고 밝혔다. [서울=뉴스핌] 이형석 기자 = 윤석열 전 대통령이 29일 새벽 서울 서초구 서울고검 청사에 마련된 내란특검에서 피의자 신분으로 조사를 마친 뒤 귀가하고 있다. 2025.06.29 leehs@newspim.com 박 특검보는 "(소환 일정) 협의는 합의가 아니"라며 "결정은 수사 주체가 하는 것이고 윤 전 대통령 측 의견을 접수한 뒤 특검의 수사 일정이나 여러 필요성 등을 고려해 출석 일자를 정해서 통지한 것"이라고 설명했다. 다만 "변호인단 측의 반응은 아직 없다"고 덧붙였다. 앞서 특검팀은 윤 전 대통령 측에 오는 30일 출석하라고 통보했으나, 윤 전 대통령 측은 방어권 보장 등을 이유로 오는 7월 3일 이후로 조사 일정을 잡아 달라고 요청했다. 이에 특검팀이 당초 날짜보다 하루 늦은 7월 1일 조사를 진행하겠다고 재통보한 것이다. 특검팀은 경찰청에 수사방해 사건 전담 경찰관 파견을 요청했다고도 밝혔다. 윤 전 대통령 측이 지난 28일 첫 대면조사에서 박창환 경찰청 중대범죄수사과장(총경) 교체를 요구하며 조사를 거부한 행위가 특검법상 수사방해 행위에 해당한다고 특검팀은 판단하고 있다.  박 특검보는 "(윤 전 대통령 측 변호인이) 변론의 영역을 넘어선 사실과 다른 주장을 하고 있다. 이는 특검법에서 정한 수사방해 행위로 평가될 수 있다"며 "더 이상 좌시하지 않겠다. 특검은 수사방해 사건을 전담할 경찰관 3명을 경찰청에 파견 요청했다"고 말했다. 이어 "특검법 수사 대상에 보면 일련의 수사 방해나 재판 방해도 수사의 대상이 돼 있다"며 7월 1일 2차 대면조사에서도 박 총경이 계속 조사할 것이라고 부연했다. hong90@newspim.com 2025-06-29 22:14
사진
"주담대 6억 이상은 안됩니다" [서울=뉴스핌] 전미옥 기자 = 이재명 정부가 출범 약 한 달 만에 초고강도 부동산 대출 규제 정책을 내놓은 가운데 수도권 집값 상승세에 제동이 걸릴지 주목된다. 가계 대출 총량을 절반으로 확 조이고 수도권 주택담보대출(주담대) 한도를 6억원으로 일괄 제한하는 방향이다. 금융위원회가 지난 27일 관계기관 합동 '긴급 가계부채 점검회의'를 열고 대출 규제를 골자로 한 수도권 중심의 가계부채 관리 강화 방안에 따르면 지난 28일부터 총액 한도가 없는 주담대를 수도권과 규제지역(서울 강남·서초·송파·용산구)에 한해 최대 6억원으로 제한된다. 고가 주택 구입에 대출을 활용하는 것을 막기 위한 조치다. 서울 시내 한 시중은행 창구 모습. [사진= 뉴스핌DB] 다주택자에 대한 신규 주담대는 주택담보대출비율(LTV) 0%를 적용해 전면 금지하며 1주택자 갈아타기 주담대 규제도 강화된다. 기존에는 보유 주택을 2년 이내 처분하기로 약정하면 주담대를 받을 수 있었지만 앞으로는 6개월로 처분 기간이 줄었다. 위반 시에는 대출금 즉시 회수되고 향후 3년간 주택 관련 대출이 제한된다. 생애 최초 주택구입 목적의 LTV도 기존 80%에서 70%로 줄어든다. LTV는 자산 담보가치에 대한 대출 비율을 뜻한다. 7월부터는 금융권 자체 대출과 정책대출의 총량 목표를 당초 계획 대비 50% 수준으로 감축하며 정책 대출은 연간 공급 계획 대비 25% 줄인다. 은행의 대출 가능 총량이 줄어드는 것이다. 당초 7월 시행 예정이었던 스트레스 DSR(총부채상환비율) 3단계 조치에 이어 이번 초강도 대출규제가 중첩되면서 주택 구매를 위한 대출문턱은 더 높아지게 된다. 예컨대 스트레스 DSR 3단계만 적용 시 연봉 1억원 직장인이 만기 30년, 원리금균등상환, 대출금리 4%의 조건으로 수도권 지역에서 생애 최초 주택구입 목적의 변동 주택대출을 받을 때 대출한도는 5억8700만원으로 기존 2단계 대비 2000만원가량 줄어든다. 또 수도권 가산금리 1.5%P가 더해져 금리는 5.5%가 적용된다. 여기에 7월부터 시행하는 정부의 고강도 대출 정책인 '가계대출 관리 강화 방안'이 더해지면서 대출한도는 이보다 더 줄어들 전망이다. 하반기 가계대출 총량 목표가 기존 대비 50%가량 줄면 은행들은 대출한도를 추가로 10~30% 감액할 것으로 예상된다. LTV도 기존 80%에서 70%로 줄기 때문에 집값에 따른 대출금도 축소된다. 또 총량 소진 시 대출 자체가 거절될 수 있다. 연봉 1억원 이상 고소득자들의 주택구매도 어려워진다. 수도권 주담대 대출의 최대한도가 6억원으로 일괄 제한되기 때문이다. 더욱이 실제 대출금액은 6억원 한도 내에서 LTV(담보인정비율), DTI(총부채상환비율), DSR(총부채원리금상환비율) 비율 등에 따라 조정된다. 이번 규제는 토요일인 지난 28일부터 시행이 본격화됐다. 발표 당일인 27일까지 금융회사가 전산상 등록을 통해 대출 신청접수를 완료하거나 주택 매매계약을 체결, 계약금을 이미 납부한 경우 종전규정이 적용된다. 정부가 초고강도 규제에 나선 이유는 과열된 부동산 열풍 및 가계대출 때문이다. 5대 시중은행(KB국민·신한·하나·우리·NH농협은행)의 이달 들어 지난 19일까지 가계대출 잔액은 전월 말 대비 4조 원 늘어난 752조 749억원을 기록했다. 영업일당 3328억 원이 늘어난 것으로 지난해 8월 영업일당 평균 4584억원이 늘어난 이후로 가장 큰 폭의 증가세다.  정부는 이번 규제로 올해 하반기 10조원, 연간으로는 20조원 가량의 가계대출이 줄어들 것으로 내다봤다. 최근 과열된 부동산 열기를 잠재울 수 있을지 주목된다. 일각에선 강도 높은 대출 규제로 인해 청년들의 주택 구매 여력을 제한하는 것 아니냐는 우려도 나온다. 2030세대 무주택자의 '주거 사다리'가 흔들릴 수 있다는 지적이다. romeok@newspim.com 2025-06-29 08:00
안다쇼핑
Top으로 이동