[서울=뉴스핌] 김지나 기자 = 김앤장 법률사무소가 에이전틱 인공지능(AI) 확산에 따른 보안 위험과 기업의 법적·제도적 대응 방안을 논의하는 세미나를 개최한다.

김앤장은 한국정보통신법학회 정보보호포럼과 공동으로 오는 13일 오후 2시 서울 종로구 크레센도 빌딩 3층 대회의장에서 '에이전틱 AI, 특화 모델 시대의 보안 이슈와 규제 대응'을 주제로 공개 세미나를 연다고 12일 밝혔다.

에이전틱 AI는 사용자의 지시에 따라 외부 도구와 시스템을 자율적으로 호출하고 업무를 수행하는 기술이다. 기업의 업무 효율성과 생산성을 높일 수 있지만 기존 AI와는 다른 보안 위험을 수반할 수 있다는 지적이 나온다.

특히 AI의 권한 오남용과 프롬프트 인젝션(악의적 명령 삽입), 응용프로그램 인터페이스(API) 연동 과정에서의 정보 유출, 사고 발생 시 책임 귀속 및 감사기록 관리 등이 주요 쟁점으로 꼽힌다.

올해 1월 인공지능기본법이 시행되는 등 AI 관련 규제 환경이 변화하면서 기업이 AI 도입과 운영 전 과정에서 보안 통제와 준법 체계를 함께 구축해야 할 필요성도 커지고 있다.

이번 세미나는 에이전틱 AI와 특화 모델의 자율적 기능을 통제하는 기술적 방안과 사이버 위기 대응을 위한 기업 내부통제 체계 설계를 중심으로 진행된다.

행사는 이성엽 고려대 교수 겸 한국정보통신법학회 회장의 개회사와 정영진 김앤장 변호사의 환영사로 시작된다.

첫 번째 발제에서는 이상근 고려대 정보보호대학원 교수가 '에이전틱 AI의 자율 역량과 통제 방안 동향'을 주제로 발표한다.

이어 한혜원 김앤장 변호사가 '사이버 위기 대응과 관련된 기업의 내부통제 시스템 설계의 방향'을 주제로 기업의 대응 방안을 설명한다.

종합토론은 권태경 연세대 교수 겸 정보보호포럼 위원장이 좌장을 맡는다.

토론에는 이주형 서울시립대 법학전문대학원 교수, 박기웅 세종대 정보보호학과 교수, 이종혁 과학기술정보통신부 정보보호산업과장, 민경표 카카오뱅크 최고정보보호책임자(CISO), 차윤호 김앤장 고문 등이 참여한다.

이성엽 한국정보통신법학회 회장은 "이번 세미나가 급변하는 규제 환경 속에서 기업들이 실효성 있는 기술적 통제 방안과 내부통제 체계를 함께 설계해 안전하고 신뢰할 수 있는 AI 생태계를 구축하는 중요한 지침이 되기를 바란다"고 밝혔다.

abc123@newspim.com