[전문] 尹, AI 서울정상회의 개최...안전·혁신·포용 'AI 서울선언' 발표

기사입력 : 2024년05월21일 22:42

최종수정 : 2024년05월21일 23:59

21~22일 정상·장관세션 진행...AI 글로벌 포럼도 열려
AI 안전 과학 국제 협력 위한 서울 의향서도 발표

[서울=뉴스핌] 김승현 기자 = 윤석열 대통령은 21일 수낙 영국 총리와 공동으로 'AI 서울 정상회의'를 주재했다.

윤 대통령은 이날 청와대 영빈관에서 개최한 정상세션 개회사에서 "대한민국은 국제사회의 책임 있는 일원으로서 AI 안전, 혁신, 포용을 조화롭게 추진해 나가겠다"고 말했다.

특히 "AI의 영향력이 커지는 만큼 딥페이크를 통한 가짜뉴스와 디지털 격차 등 AI 부작용에 대한 우려도 커지고 있다"며 "디지털은 국경을 넘어 초연결성을 지닌 만큼 글로벌 차원의 디지털 규범이 만들어져야 한다"고 강조했다.

AI 서울 정상회의는 작년 11월 영국 블레츨리 파크에서 개최된 AI 안전성 정상회의의 후속 회의다. 지난해 참석 국가와 국제기구는 한국, G7(미국, 영국, 프랑스, 일본, 독일, 이탈리아, 캐나다), 호주, 싱가폴, EU, UN이다.

이번 정상회의에는 AI 안전성 정상회의와 동일하게 G7 정상들과 싱가포르, 호주 정상이 초청됐다. 그 외에 UN, EU, OECD 등 국제기구 수장과 AI 산업을 이끌어가고 있는 핵심 글로벌 기업인 삼성, 네이버, 구글, 아마존, 메타, MS, 오픈 AI 등도 초청됐다.

첫날인 이날 저녁에는 정상세션이 화상으로 개최됐다. 둘째 날인 오는 22일에는 장관급 회의가 개최된다. 참석 장관들은 전일 정상회의 논의 내용에 기초해 각국의 AI 안전 역량 강화 방안, 지속 가능한 AI 발전 방안 등 보다 구체적인 협력 방안을 협의할 예정이다.

또한 오는 22일에는 각국 고위급 인사, 주요 업계 및 학계 인사들이 참석하는 'AI 글로벌 포럼'도 열린다. 이는 윤 대통령이 작년 9월 UN 총회 기조연설에서 개최를 제안한 데 따른 포럼이다.

[서울=뉴스핌] 윤석열 대통령이 21일 청와대 영빈관에서 화상으로 참석한 'AI 서울 정상회의'에서 개회사를 하고 있다[사진=대통령실]2024.05.21 photo@newspim.com

다음은 AI 서울정상회의 정상세션 참여자들의 서울선언 전문이다.

1. 2024년 5월 21일 AI 서울 정상회의에 모인 호주, 캐나다, 유럽연합, 프랑스, 독일, 이탈리아, 일본, 대한민국, 싱가포르, 영국, 미합중국을 대표하는 세계 지도자들은 AI의 전례없는 발전과 우리 경제·사회에 미치는 영향을 마주하여 AI 분야에서 국제 협력 및 대화를 촉진하고자 하는 공동의 헌신을 확인한다.

2. 2023년 11월 영국 블레츨리 파크에서 개최된 AI 안전성 정상회의에서 제시한 노력을 바탕으로 우리는 AI의 안전·혁신·포용성이 상호 연계된 목표로서, AI 설계·개발·배치·사용이 제기하고 있거나 제기할 수 있는 광범위한 기회와 도전에 대응하기 위해 AI 거버넌스에 대한 국제 논의에 이 우선순위들을 포함하는 것이 중요하다는 점을 인식한다.

3. 우리는 안전하고 보안성과 신뢰성을 갖춘 AI 설계·개발·배치·사용을 보장하기 위해, AI로부터의 혜택을 극대화하고 야기되는 폭넓은 위험들에 대응하기 위한 위험 기반 접근법과 일치하는 AI 거버넌스 체계들 간의 상호운용성의 중요성을 인식한다. 우리는 첨단 AI 시스템을 개발하는 단체들에 대한 히로시마 프로세스 국제 행동강령의 운용을 지지하는데 지속 집중한다. 우리는 프론티어 AI를 개발하고 배치하는 단체들의 특별한 책임을 인식하며, 이러한 측면에서 「프론티어 AI 안전 서약」을 환영한다.

4. 우리는 이 선언 참여국들이 AI 안전연구소, 연구 프로그램 그리고/또는 감독 기관들을 포함한 기타 유관 기관들을 설립하기 위해 진행하거나 계속 진행 중인 노력을 지지하고, 이러한 단체들간의 네트워크를 육성함으로써 안전 연구에 관한 협력을 증진하고 모범 관행을 공유하기 위한 협력을 증진하기 위해 노력한다. 이러한 측면에서 우리는 이 선언의 부속서인 「AI 안전 과학에 대한 국제 협력을 위한 서울 의향서」를 환영한다.

5. 우리는 인간 중심적인 AI를 활용하여 국제 난제를 해결하고, 민주주의적 가치·법치주의 및 인권·기본적 자유와 프라이버시를 보호 및 증진하고, 국가 간의 그리고 국내적인 AI 및 디지털 격차를 해소함으로써, 인간의 복지를 향상하고, 유엔 지속가능발전목표 진전을 포함하여 AI를 실용적으로 활용하도록 지원하기 위해, AI 안전·혁신·포용성을 향상시키는 국제 협력 강화를 촉구한다.

6. 우리는 안전하고, 혁신적이고 포용적인 AI 생태계들을 육성하는 위험 기반 접근법들을 포함한 정책·거버넌스 체계들을 지지한다. 이 체계들은 인간의 창의력과 AI의 개발·사용간의 선순환을 촉진하고, 사회·문화적, 언어적 그리고 성별 다양성을 증진하며, 상업적·공개적으로 사용 가능한 AI 시스템들의 전주기에 걸쳐 환경적으로 지속가능한 기술 및 인프라의 개발 및 사용을 증진해야 한다.

7. 우리는 안전하고, 혁신적이고, 포용적인 AI 생태계 육성을 위해 정부·민간·학계·시민사회를 포함하는 다중이해관계자간 적극적 협력 및 초국경적·학제간 협력의 중요성을 강조한다. AI의 혜택과 위험에 모든 국가들이 영향을 받는다는 점을 인식하면서, 우리는 AI 거버넌스 관련 대화에 폭넓은 국제 이해관계자들을 적극적으로 포함시킬 것이다.

8. 우리는 유엔 및 산하기구, G7, G20, OECD, 유럽평의회 및 GPAI 등 여타 국제 이니셔티브들에의 관여를 통해 AI 거버넌스에 관한 국제 협력을 강화하기로 한다. 이러한 측면에서 우리는 히로시마 AI프로세스 프렌즈 그룹을 평가하고, 최근 OECD AI 원칙의 갱신 및 UN 총회에서 최근 컨센서스로 채택되어 AI 시스템들에 대한 안전장치의 필요성과 선의를 위한 AI 개발, 배치, 사용의 중요성에 관한 글로벌 이해를 공고히한 "지속가능발전을 위한 안전하고 보안성 있고 신뢰성 있는 AI 시스템의 기회의 활용" 제하 결의를 환영하며, 2024년 9월 미래정상회의에 앞서 글로벌디지털컴팩트에 관한 논의를 환영하며, 유엔사무총장 직속 AI 고위급 자문기구의 최종 보고서를 기대한다.

9. AI 안전, 혁신, 포용성을 촉진하는 AI 거버넌스 논의를 진전시키 위한 고위급 포럼으로서의 AI 정상회의 가치를 평가하며, 우리의 세 번째 모임으로서 프랑스가 개최하는 AI 행동 정상회의를 기대한다.

[서울=뉴스핌]윤석열 대통령이 21일 청와대 영빈관에서 화상으로 'AI 서울 정상회의'에 참석하고 있다.[사진=대통령실]2024.05.21 photo@newspim.com

다음은 AI 안전 과학에 대한 국제 협력을 위한 서울 의향서 전문이다.

1. 2024.5.21. AI 서울 정상회의에 모인 호주, 캐나다, 유럽연합, 프랑스, 독일, 이탈리아, 일본, 대한민국, 싱가포르, 영국, 미국을 대표하는 세계 지도자들은 2023.11.2. 블레츨리 파크에서 개최된 AI 안전성 정상회의에 이어, 블레츨리 정상세션의 결과물로 도출된 안전 평가 의장 성명을 평가하면서, 개방성, 투명성, 상호주의를 기반으로 AI 안전 과학을 증진시키기 위한 국제 공조와 협력의 중요성을 확인한다. 우리는 안전이 책임있는 AI 혁신을 진전시키는데 핵심 요소임을 확인한다.

2. 우리는 AI 안전 연구, 평가 그리고/또는 상업적·공개적으로 사용 가능한 AI 시스템들에 대한 AI 안전을 증진하기 위한 개발 지침을 촉진하는 AI 안전연구소를 포함하는 공공 그리고/또는 정부 지원 기관을 설립하거나 확장하기 위한 공동의 노력을 격려한다.

2.1 우리는 AI 안전 관련 정책적 노력에 정보를 제공하기 위해 학제간의, 그리고 재현 가능한 증거 군집의 필요성을 인식한다. 우리는 궁극적으로 AI 개발 및 사용의 혜택이 전지구에 걸쳐 공평하게 공유되기 위해 과학적 조사의 역할과 그러한 조사의 진전을 위한 국제적 공조의 혜택을 인정한다.

2.2 우리는 국제 AI 과학 보고서 등의 평가를 통해 공동의 과학적 이해들을 활용하고 증진하고자 하며, 적절한 경우에 각자의 정책을 견인하고 일치시키며, 우리 거버넌스 체계와 부합하는 안전하고 보안성 있고 신뢰할 수 있는 AI 혁신이 가능하도록 하고자 하는 우리의 의지를 확인한다.

2.3 우리는 우리의 기술적 방법론과 전반적 접근법에 있어서 상호보완성 및 상호운용성을 증진하기 위한 노력을 포함하여, AI 안전 측면에서 공동의 국제 과학적 이해를 촉진하기 위한 조치를 취하고자 하는 의지를 공유함을 표명한다.

2.4 이러한 조치들에는 기존 이니셔티브의 활용, 연구·평가·지침 역량 상호 강화, 적절한 경우 모델의 기능·한계·위험을 포함하는 모델들에 관한 정보 공유, AI 위해 및 안전 사고 모니터링, 적절한 분야에서 평가와 데이터세트 및 관련 기준의 교환 또는 공동 작성, AI 안전 과학 진전을 목적으로 하는 기술적 공유 자원 구축 및 이 분야에서의 적절한 연구 보안 관행 촉진을 포함할 수 있다.

2.5 우리는 효율성 극대화, 우선순위 정의, 경과 과정 보고, 결과물의 과학적 엄격성 및 견고성 향상, 국제 표준 개발 및 채택 촉진 그리고 AI 안전에 대한 증거 기반 접근법 진전 가속화를 위한 우리의 노력을 조율하고자 한다.

3. 우리는 AI 안전 과학의 진전을 가속화하기 위해 핵심 파트너들간에 국제 네트워크를 발전시킨다는 우리의 공유된 야심을 명시한다. 우리는 이러한 그리고 이와 관련된 노력에 있어서 향후 긴밀한 협력, 대화 및 파트너십을 기대한다.

kimsh@newspim.com

사진

세빛섬 '청년 버스킹'... "분위기 만점 음악 즐겼다" [서울=뉴스핌] 오광수 문화전문기자 = "와이스 맨 세이, 온리 훌스 러브 인, 밧 아이 캔 헬프, 폴링 인 러브 위드 유." 바람 부는 한강에 엘비스 프레슬리의 대표곡 '캔 헬프 폴링 인 러브(Can't help falling in love)'가 울려 퍼졌다. 제3회 싱어송라이터선발대회 '히든스테이지'에서 대상을 수상한 김마누는 맨 처음으로 무대에 올라 매력적인 중저음으로 마치 엘비스 프레슬리가 환생한 듯한 분위기를 연출했다. [서울=뉴스핌] 정일구 기자 = '히든스테이지 시즌3 TOP10' 무화가 18일 오후 서울 서초구 반포한강공원 세빛섬 야외무대에서 감엔터테인먼트 주최로 열린 '2025 한강 청년 버스킹 축제'에서 라이브 공연을 선보이고 있다. mironj19@newspim.com 2025.10.18 18일 오후 1시, 반포 한강공원 세빛섬에서는 감엔터테인먼트가 주최하고 서울특별시가 후원한 '2025 한강 청년 버스킹 축제'가 화려한 막을 올렸다. 가을비가 그치고 다소 바람이 불어 쌀쌀함이 느껴지는 날씨였지만 청년 뮤지션들의 음악을 향한 열정과 가을을 즐기러 나온 시민들의 열정을 막지 못했다. [서울=뉴스핌] 정일구 기자 = '히든스테이지 시즌3 TOP10' 오춘이 18일 오후 서울 서초구 반포한강공원 세빛섬 야외무대에서 감엔터테인먼트 주최로 열린 '2025 한강 청년 버스킹 축제'에서 라이브 공연을 선보이고 있다. 2025.10.18 mironj19@newspim.com 삼삼오오 야외공연장에 모여든 시민들은 돗자리를 펴고 앉거나 따뜻한 커피를 손에 들고 다양한 음악을 구사하는 청년 뮤지션들의 공연을 즐겼다. 버스킹 축제의 문을 연 김마누는 "바람이 불었지만 이런 날의 매력이 있다. 오늘은 조금은 추워서 셋 리스트를 따스한 곡으로 바꿨는데 다들 따뜻하게 들어주신 것 같아 기분이 좋다"라고 말했다. [서울=뉴스핌] 정일구 기자 = 혼성듀오 섬과 도시가 18일 오후 서울 서초구 반포한강공원 세빛섬 야외무대에서 감엔터테인먼트 주최로 열린 '2025 한강 청년 버스킹 축제'에서 라이브 공연을 선보이고 있다. 2025.10.18 mironj19@newspim.com 김마누의 무대가 끝나자 '히든스테이지'에서 최우수상을 수상한 밴드 '오춘'이 무대를 이어받았다. '깊을 오(奧), 봄 춘(春)'. 이름처럼 따뜻하고 깊은 감성을 전하는 팀이다. 대학 동기들과 군악대 인연으로 구성된 이 밴드는 "이 팀으로 경연이 아닌 야외 공연은 처음"이라며 "추운 날씨에 손이 어는 느낌도 들기도 했지만 그걸 제외하면 만족스러운 무대였다"라고 소감을 밝혔다. 무대는 나린과 수피(루키상), 유구름으로 이어졌다. '히든스테이지' 톱 10에 올랐던 5인조 아카펠라 팀인 나린은 애니메이션 영화 '케이팝데몬헌터스'의 주제가인 '골든'을 아카펠라로 편곡해 불러서 관객들의 열띤 호응을 얻었다. 용인에서 친구들과 함께 축제를 찾은 10대 여성관객인 B씨는 "아는 분들이랑 한강에 놀러왔다가 우연히 축제를 보고 신기해서 구경하게 됐다"며 "오춘이 나올 때부터 봤는데 다들 너무 잘했다. 특히 나린의 '골든'이 가장 인상 깊었다"고 말했다. [서울=뉴스핌] 정일구 기자 = '2025 한강 청년 버스킹' 무대를 찾은 가족 관객이 포토존을 배경으로 사진을 찍고 있다. 2025.10.18 mironj19@newspim.com 의정부에서 왔다는 20대 여성 A씨도 "드럼 선생님이 경연에서 상을 받으셨다고 해서 공연을 보러 왔다"며 "날씨가 춥긴 하지만 노래를 듣다보니 마음이 따뜻해졌다"면서 미소 지었다. '히든스테이지'에서 최우수상을 수상한 김유정이 선배가수 김현식의 '내 사랑 내 곁에'를 부르자 관객들은 가을이 무르익은 한강과 너무 잘어울리는 무대라면서 환호했다. 성해빈, 박은희의 혼성 듀오인 '섬과 도시', '히든스테이지'에서 우수상을 수상한 무화, 톱 10에 올랐던 널디나, 김지신 등의 무대도 저마다 개성이 넘쳤다. 이날 무대에는 '김루꾸 재즈밴드'도 참여해 뉴올리언스 사운드를 기반으로 한 재즈 선율로 축제의 밤을 더욱 풍성하게 했다. 각종 재즈 페스티벌과 공연 무대에서 50여 차례 이상 활약한 실력파 밴드답게, 세빛섬의 공기를 따뜻하게 물들였다. 발라드와 R&B, 재즈, 포크는 물론 록과 아카펠라까지 다양한 음악을 구사하는 청년 뮤지션들은 바람부는 한강에서 K-팝의 미래를 펼쳐보였다. [서울=뉴스핌] 정일구 기자 = '히든스테이지 시즌3 TOP10' 널디나가 18일 오후 서울 서초구 반포한강공원 세빛섬 야외무대에서 감엔터테인먼트 주최로 열린 '2025 한강 청년 버스킹 축제'에서 라이브 공연을 선보이고 있다. 2025.10.18 mironj19@newspim.com 이날 공연장 한쪽에는 관객들이 직접 참여할 수 있는 체험 부스도 마련됐다. '서울의 향을 찾아서'라는 이름의 향수 체험 코너에서는 선유·도산·연희·성수·삼청·후암·도화·낙원 등 서울의 대표 지역을 모티브로 한 향을 시향할 수 있었다. 시민들은 자신이 고른 향에 원하는 향료를 섞어 '나만의 향수'를 완성하며 추억을 남겼다. 또 '한강 포토존'에서 사진을 찍는 가족과 연인도 자주 눈에 띄었다. [서울=뉴스핌] 정일구 기자 = '히든스테이지 시즌3 TOP10' 널디나가 18일 오후 서울 서초구 반포한강공원 세빛섬 야외무대에서 감엔터테인먼트 주최로 열린 '2025 한강 청년 버스킹 축제'에서 라이브 공연을 선보이고 있다. 2025.10.18 mironj19@newspim.com 서울에서 가족과 산책 중 우연히 들렀다는 30대 남성 C씨는 "길을 걷다 들렀는데 노래가 너무 좋아서 자리를 잡았다"며 "향수 체험도 정말 좋았다. 무대와 체험 둘 다 만족스러웠다"고 했다. 그러면서 "아내는 조금 추워했지만 그 추위마저 분위기 같았다"고 웃어 보였다. 4시간에 걸쳐 진행된 '2025 한강 청년 버스킹'을 주최한 감엔터테인먼트 관계자는 "야외공연장을 찾은 시민들이 청년 뮤지션들 덕분에 수준 높은 음악을 만끽할 수 있었다"면서 "가을 한강을 배경으로 버스킹 공연과 이벤트가 잘 어우러진 축제였다"고 말했다. oks34@newspim.com 2025-10-18 17:46