전체기사 최신뉴스 GAM
KYD 디데이
경제 과학기술

속보

더보기

서울과기대·테디썸, 한국어 최초 405B급 언어모델 '블로썸' 공개

기사입력 : 2024년08월07일 08:16

최종수정 : 2024년08월07일 08:16

메타 라마3.1 기반으로 개발
영어 성능 손실 없이 달성

[세종=뉴스핌] 이경태 기자 = 서울과학기술대학교 멀티모달 언어처리 연구실(MLP) 임경태 교수팀과 테디썸은 한국어 최초 405B급 한국어-영어 초거대 언어모델 Bllossom-405B를 6일 완전 공개했다.

이 모델은 메타가 최근 공개한 공개 언어모델인 라마3.1(LLama3.1-405B) 기반 모델을 토대로 만들어졌다. 메타가 공개한 라마3.1-405B 모델은 한국어가 가능한 공개 언어모델 중 가장 큰 모델이다.

챗 블로썸 서비스 모습 [사진=테디썸] 2024.08.07 biggerthanseoul@newspim.com

블로썸-405B 모델은 라마3.1 모델에 자체 개발한 '효율적인 층별 최적화(Efficient Layer-specific Optimization, ELO)' 추가 사전학습 방법을 적용한 모델이다.

한국어-영어 병렬 말뭉치 데이터를 활용한 지식 연결을 통해 영어 성능의 손실 없이 한국어 성능을 강화한 모델이다.

405B급 초거대 모델 추론에만 최소 엔비디아의 A100 GPU 6대가 필요할 정도로 상당히 큰 모델로 추가 사전학습의 장벽이 높다.

서울과기대 임경태 교수팀은 이러한 문제를 자체 개발한 층별 최적화 방법으로 완화시켰다.

이번 블로썸 3.1 모델은 공식적으로 한국 '휴렛 패커드 엔터프라이즈(Hewlett Packard Enterprise. HPE)의 컴퓨팅 지원과 커먼 크롤(Common Crawl) 재단이 제공한 한국어 데이터를 토대로 대량의 GPU와 영어-한국어 데이터를 활용해 만들어진 모델이다.

이번에 공개된 모델은 Bllossom3.1-8B 모델과 Bllossom3.1-405B 모델이다. 이 모델은 전체적으로 공개가 되며, 개별적인 추가 학습이 가능해 상업적인 이용도 할 수 있다. GPU메모리 사용량을 매우 줄인 4bit 양자화된 모델도 동시에 공개해 일반 유저들이 직접 활용해볼 수 있다.

함영균 테디썸 대표는 "한국어 공개 모델의 필요성에 공감한 글로벌 빅테크 기업들이 현재 블로썸과 협업하고 있다"며 "앞으로도 지속적으로 거대 모델을 공개해 중소규모 회사 및 연구 그룹에서도 활용할 수 있도록 초거대 언어모델의 민주화에 기여할 것"이라고 말했다.

biggerthanseoul@newspim.com

[뉴스핌 베스트 기사]

사진
'소년공'에서 대통령까지…이재명은 누구? [서울=뉴스핌] 박성준 기자 = '흙수저' 출신 이재명 더불어민주당 대선 후보가 4일 제21대 대통령으로 당선됐다. 1964년 12월 22일 경북 안동에서 태어난 그는 가난한 집안에서 성장했으며, 경제적 어려움으로 경기도 성남시 상대원공단에서 5년간 '소년 노동자'로 일하며 생계를 이어갔다. 검정고시로 중학교와 고등학교 학력을 취득했고, 중앙대학교 법학과에 장학생으로 진학해 1986년 제28회 사법시험에 합격했다. 이재명 대통령은 당시 변호사로서 산업재해 피해자, 노동자 등 사회적 약자를 위한 소송을 맡았다. 성남시립의료원 설립 운동과 지역사회 부정부패 고발 등 시민운동을 주도하며 사회 문제 해결에 적극 참여했다. 이러한 활동을 통해 정치의 필요성을 느껴 2006년 열린우리당 소속으로 성남시장 선거에 처음 출마했으나 낙선했고, 2010년 제5회 지방선거에서 성남시장에 당선됐다. 성남시장으로 재임하면서 무상교복, 청년배당, 시립의료원 설립 등 복지 정책을 도입하고 재정개혁을 추진했다. 특히 2015년에는 국내 최초로 기본소득 개념을 도입한 '청년배당' 정책을 추진해 주목을 받았다. [서울=뉴스핌] 윤창빈 기자 = 제21대 대통령 당선이 확실시 되는 이재명 더불어민주당 대선 후보가 4일 서울 여의도 국회 정문 앞에 마련된 개표방송 야외무대에서 연설을 하고 있다. 2025.06.04 pangbin@newspim.com  이후 2018년 제7회 전국동시지방선거에서 경기도지사로 선출돼 2021년 10월 25일까지 재임하며, 경기도 전역으로 복지정책을 확대하고 재정 건전성을 강화했다는 평가를 받았다. 성남시장과 경기도지사 재임 중 추진한 복지·개혁 정책으로 전국적인 주목을 끌었다. 2022년 8월 더불어민주당 제5차 전당대회에서 77.8%의 득표율로 당대표로 선출됐다. 앞서 2021년 민주당 경선에서 50.29%의 득표율로 제20대 대통령 선거 후보로 확정됐으나, 윤석열 당시 국민의힘 대선 후보에 0.73%p 차이로 낙선했다. 이후 21대 대선 경선에서는 '어대명'(어차피 대통령은 이재명)이라는 신드롬을 형성하며 지지를 모았다. 그는 정치 경력 전반에서 가족과 관련된 논란으로 주목받았다. 부인 김혜경 씨의 법인카드 유용 의혹, 아들의 도박 및 성적 게시글 논란, 친형 강제입원 논란 등 가족 문제는 꾸준히 제기됐다. 국회에서는 그의 체포동의안이 2023년 9월 21일 가결됐고, 위증교사, 대장동, 백현동 개발 등과 관련한 사법적 절차가 이어졌다. 관련 사건들에 대해서는 일부 무죄 판결이나 불기소 결정이 내려졌고, 일부 사건은 재판이 진행 중이다. 이 대통령은 민생, 복지, 공정, 민주주의 등 위기 극복을 국정 방향으로 제시했다. 출생기본소득, 사립대 등록금 완화, 남북관계 개선 등 공약을 통해 민생경제와 사회적 약자 지원을 주요 과제로 설정했다. 아울러 경제 불평등 해소, 사회적 약자 보호, 지역균형 발전 등 정책 과제를 강조하며 취임 초 국정 운영의 기조를 밝혔다. [서울=뉴스핌] 정일구 기자 = 이재명 더불어민주당 대선 후보가 2일 오후 서울 여의도공원 문화의마당에서 열린 마지막 유세에서 애국가를 부르고 있다. 2025.06.02 mironj19@newspim.com 이 대통령은 자신의 정치 경력과 맞닿아 있는 경제적 약자 정책을 통해 복지와 공정에 방점을 찍었다. 실용, 미래비전을 강조하며 청년층의 일자리, 자산 형성, 주거 안정, 사회 안전망 강화를 위한 다양한 정책을 발표하기도 했다. 공약 이행을 위한 재원 확보와 정책 추진은 앞으로 국정 운영에서 중요한 과제로 남아 있다. 정치 경력 외적으로 이재명 대통령은 가족과의 갈등, 어린 시절의 경제적 어려움 등을 수차례 언급했다. 그는 과거를 돌아보며 가족 간 갈등과 빈곤을 극복하는 과정을 개인적으로 중요한 계기로 설명해 왔다. 이러한 개인사와 정치 경력은 이재명 대통령의 이미지를 형성하는 요소로도 함께 거론되고 있다. 그는 취임 초기 국정 과제를 중심으로 업무를 준비할 전망이다. 출생기본소득, 사립대 등록금 완화, 남북관계 개선 등 공약 이행에 따른 정책 결정과 추진, 재정 부담 문제 등이 현안으로 부각되고 있다. 가족과 관련된 논란, 사법 리스크 등은 앞으로도 정치적 논쟁의 한 축으로 계속 제기될 것으로 관측된다. 그의 당선은 대한민국 정치사에서 대표적인 '흙수저' 출신 대통령으로 기록된다. 이 대통령 출신과 정치 경력, 복지·개혁 중심의 정책 기조는 향후 국정 운영의 방향을 가늠하는 주요 지표로 꼽히고 있다. 앞으로의 행보는 취임 초기 공약 이행과 동시에 정치적 신뢰와 국민통합 과제에 직면할 것으로 보인다. parksj@newspim.com 2025-06-04 02:34
사진
이재명 49.42 김문수 41.15 이준석 8.34% [서울=뉴스핌] 박성준 기자 = 제21대 대통령선거에서 이재명 더불어민주당 후보가 최종 승리를 확정지었다. 중앙선거관리위원회가 4일 오전 발표한 개표 결과에 따르면 이 후보는 총 1728만7513표(득표율 49.42%)를 얻어 제21대 대통령으로 당선됐다. 김문수 국민의힘 후보는 1439만5639표(41.15%)를 기록해 2위에 머물렀다. 두 후보 간 표 차이는 약 220만 표로 벌어졌다. 이준석 개혁신당 후보는 291만7523표(8.34%)를 득표했다. 권영국 민주노동당 후보는 34만4150표(0.98%), 무소속 송진호 후보는 3만5791표(0.10%)를 각각 얻었다. [서울=뉴스핌] 윤창빈 기자 = 제21대 대통령 당선이 확실시 되는 이재명 더불어민주당 대선 후보가 4일 서울 여의도 국회 정문 앞에 마련된 개표방송 야외무대에서 인사를 하고 있다. 2025.06.04 pangbin@newspim.com 이재명 후보는 호남권에서 압도적인 지지를 받았다. 광주(84.77%), 전남(85.87%), 전북(82.65%)에서 80%를 넘는 득표율을 기록하며 전체 승리를 견인했다. 최대 승부처로 꼽혔던 수도권에서도 우위를 보였는데, 서울에서는 47.13%, 인천에서는 51.67%를 기록했다. 특히 경기도에서는 52.20%의 득표율로 과반을 확보해 승리를 굳혔다. 반면 김문수 후보는 대구(67.62%), 경북(66.87%), 경남(51.99%) 등 영남권에서 강세를 보이며 지지 기반을 결집했다. 부산에서도 51.39%를 득표해 이재명 후보(40.14%)를 앞섰으나, 수도권과 호남에서의 열세를 극복하지는 못했다. 이준석 후보는 세종(9.89%), 제주(8.83%), 대전(9.76%) 등에서 두 자릿수에 육박하는 지지를 받았다. 권영국 후보는 노동과 진보정치의 메시지를 내세웠지만 1% 미만의 득표율에 그쳤고, 무소속 송진호 후보도 상징적 득표에 머물렀다. 이번 대선의 최종 투표율은 79.42%로 집계됐다. 전체 선거인 수는 4439만1871명이며, 투표자 수는 3523만6497명, 유효투표수는 3498만616표, 무효표는 25만5881표였다. 중앙선관위는 이날 오전 중으로 최종 당선인을 공식 발표할 예정이다. parksj@newspim.com 2025-06-04 05:25
안다쇼핑
Top으로 이동