"AI가 중요한 일을 하는 매우 숙련된 사람들이 할 수 있는 일을 할 수 있을 때 나는 AGI라고 부른다." 올해 초 오픈AI의 샘 올트먼은 AGI의 임계값에 관한 블룸버그의 질문에 이렇게 답했다. 어설픈 듯해도 꽤나 구체적이고 납득이 가는 답변이다.
최근 AI모델 성능이 인간 수준에 근접하거나 초월하면서 이른바 '꿈의 AI' 로 여겨지는 AGI (인공일반지능: Artificial General Intelligence)에 대한 관심이 부쩍 높아지고 있다.
AGI란 주어진 모든 상황에서 추론, 학습, 문제 해결 능력을 갖추어 인간과 동일하거나 인간을 능가하는 지능을 가진 AI를 의미한다. 쉬운 예로 영화 아이언 맨에서 주인공 토니 스타크의 일상부터 전투까지 모든 것을 돕는 AI 비서 자비스, 영화 '그녀(HER)'에 나오는 사용자 맞춤형 AI 운영체제(OS) '사만다' 등을 들 수 있다. 굳이 시시콜콜 일일이 지시하지 않아도 알아서 척척 필요한 일을 해주는 AI라니 상상만으로도 흐뭇하다.
AGI는 오픈AI의 설립 헌장에도 등장한다. 2015년 설립 당시 오픈AI는 AGI를 '가장 경제적으로 가치 있는 작업에서 인간을 능가하는 고도로 자율적인 시스템'으로 정의하고 이러한 AGI가 모든 인류에게 혜택을 주도록 하는 것을 사명으로 삼았다.
오픈AI의 인류애적 사명 실행에 대한 진정성은 차치하고 AGI 개발 속도만큼은 진심이 엿보인다. 실지로 OpenAI의 GPT-4 모델은 아크 AGI 챌린지에서 87.5%의 점수를 받아 인간 수준(85%)을 가뿐히 넘어섰다.
AGI 등장 예측도 당겨졌다. 일론 머스크 테슬라 CEO는 2024년 4월 인터뷰에서 AGI가 2년 이내에 등장할 수 있다고 전망했고 엔비디아의 CEO 젠슨 황 역시 AGI 시대가 5년 남았다고 공언했다. 구글 딥 마인드의 공동 창립자이자 수석 AGI 과학자인 셰인 레그는 2028년까지 AGI 개발 가능성을 50%로 예상했다. AI 모델 성능의 개선 속도와 전문가들의 예측을 종합해볼 때 먼 미래 얘기 같던 AGI가 향후 5~6년 내에는 충분히 등장할 듯싶다.
그런데 AGI의 현실화 시기가 가까워지고 있다는 전망이 나오면서, 전문가들은 기대 반 우려 반이다. AGI가 기술적·윤리적·사회적 측면에서 엄청난 변화를 가져올 수도 있지만 자칫 인간의 통제 밖으로 벗어나거나 악용될 경우, 엄청난 위기에 처할 수도 있기 때문이다.
에릭 슈미트 전 구글 CEO는 지난달 28일 월스트리트 저널에 'AI는 새로운 르네상스를 열 수 있다(AI Could Usher In a New Renaissance)'라는 글을 통해 AGI가 현재 지식의 한계를 넘어 새로운 지식의 영역으로 인간을 이끌 수 있을 것이라 주장했다.
그는 AGI의 핵심 지표로 "인간이 생성한 정보를 단순히 검색하고 재조합 하는 것이 아니라 자체 발견을 기반으로 지식을 생산하는 AI의 능력"을 꼽았다. 마치 아인슈타인이 가지고 있던 지식만으로 상대성 이론을 발견할 수 있는 것처럼 말이다.
그는 이를 '한계를 넘는 시스템(scale-free systems)' 이라 부르며 AGI가 스스로 데이터를 생성해 외부 정보 없이도 모델이 자가 개선할 수 있다는 것을 의미한다고 설명했다.
슈미트가 정의하는 AGI는 창의적으로 추론하고 자율적으로 학습하고 복잡한 문제에 대해 독창적인 해결법을 제시한다. 다양한 분야의 지식을 통합하는 다학제적 통찰력도 갖추고 있다.
슈미트의 글은 AGI의 발전이 가져올 수 있는 긍정적인 변화와 잠재력에 초점을 맞추고 혁신적인 발전 가능성을 제시하지만 아이러니하게도 잠재력이 큰 만큼 AGI에 따르는 도전 과제도 무겁다는 점을 상기시킨다.
가장 예민한 일자리 대체문제. 인간은 반복적이고 위험한 노동에서 해방될 수 있겠지만 AGI가 지식노동자, 창의적 직업군, 육체노동자 등 거의 모든 직군에서 인력을 대체함으로써 대량 실업이 일어날 가능성이 크다. 인간 노동의 가치 역시 급격하게 감소할 수 있다. 더 이상 지적 우위를 갖지 못하는 상황에서 인간의 역할과 존재 이유에 대한 고민이 심화되어 사회적 문제가 발생할 가능성도 적지 않다.
AGI로 생산성이 극대화되면 전통적인 자본주의 모델도 유지되기 어렵다. 소수의 AI 소유 국가나 기업이 부를 독점하게 되는 위험부터 자원의 효율적 분배를 위한 기본소득과 같은 새로운 경제모델이 필요해지는 등 경제와 사회구조에도 변화의 바람이 불 수 밖에 없다.
무엇보다 위협적인 것은 AGI의 통제 불가능성이다. 자율성을 가지고 스스로 학습하고 지식을 생산하는 AI가 자율적으로 목표를 설정하고 실행할 경우, 인간의 개입 없이 예측 불가능한 행동을 할 가능성이 적지 않다.
더구나 AI가 인간의 가치관과 충돌하는 목표를 가지거나, 인간이 의도하지 않은 방식으로 작동한다면? 이를 중단하거나 제어하는 장치가 준비되어야 하겠지만 현실적으로 쉽지 않은 문제다. AI가 인간의 가치와 목표에 맞춰 입맛대로 작동하도록 만드는 '가치 정렬'이 AI 연구에서 가장 난제 중 하나이기 때문이다.
슈미트는 AGI를 책임감 있고 효과적으로 활용하기 위해서는 비판적 사고와 정보를 분석하고 평가하고 종합하는 능력을 개발해야 한다는 점을 재차 강조했다. 윤리적 지침과 책임 있는 개발도 당부했다.
옳은 말이지만 충분하지 않다는 생각이 든다. 인류 역사상 가장 강력한 변화의 시작점을 목전에 두고 우리는 기술의 현란함에 미혹 당해 뒤에 따라오는 엄청나게 큰 그림자를 제대로 보지 못하는 건 아닐까? AGI야 말로 결코 서두르지 말고 윤리적 가이드라인과 안전장치를 마련해가며 신중하게 접근해야 한다.
◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등
