[비즈니스포스트] "기술은 그 자체가 목적이 아닌 '사람들의 미소'를 설계하는 따뜻한 도구여야 하며, 이는 결국 '사람'을 향해야 한다."

구광모 LG그룹 회장이 지난 4일 'LG AI대학원' 신입생들에게 보낸 편지에 실린 글귀다. LG AI대학원은 이날 서울 마곡 K스퀘어에서 개원식을 열고 첫 신입생을 맞았다. LG AI대학원은 교육부 인가를 받은, 석·박사 학위 취득 가능 사내 대학원이다.

구 회장은 편지에서 "앞으로 하루가 다르게 쏟아지는 전 세계의 기술과 논문들, 그리고 풀리지 않는 알고리즘 속에서 수많은 밤을 지새워야 하는 치열한 시간이 기다리고 있을지 모른다"며 "밤낮으로 흘릴 땀방울 하나하나가 우리가 마주한 난제를 해결하고, 훗날 누군가에게는 다시 일어설 희망이 되며, 누군가에게는 사랑하는 가족과 더 많은 시간을 보낼 수 있는 여유가 될 것"이라고 했다.

상당히 공감되는 말이다. 특히 구 회장의 글 가운데 '기술'을 대학원 이름과 성격에 맞춰 '인공지능(AI)'으로 바꾸면 의미가 훨씬 크게 다가온다. 'AI는 사람들의 미소를 설계하는 따뜻한 도구여야 하며, 사람을 향해야 한다'는 메시지가 된다.

그런데 과연 그렇게 될까.

미리 밝혀두지만, 구 회장 경영 철학과 당부에 딴죽을 걸 생각은 추호도 없다.

미국과 이스라엘의 이란 침공으로 세상이 발칵 뒤집혔다.

하늘에서 갑자기 뚝 뚝 떨어지는 폭탄(미사일과 드론 포함)에 맞아 영문도 모른 채 죽어가는 사람들이 줄을 잇고 있다. 이란 남부 호르모르간주 미나브시 한 여자초등학교에선 미국이 벌건 대낮에 쏜 미사일로 학교에서 공부하던 12살 이하 초등학생 165명이 한꺼번에 숨졌다.

말 그대로 천인공노할 일이 벌어진 것이다. 갈수록 험악해지는 전쟁 추이로 볼 때 이런 일은 앞으로 또 발생할 수도 있다.

더욱이 전쟁 여파로 더 많은 사람이 생계와 삶을 위협받고 있다. 중동 지역 산유국이 포화에 휩싸여 원유 생산시설이 파괴되고, 수송로가 막히면서다. 기름값 상승과 그에 따른 물가 폭등, 주가 폭락 등이 이어지고 있다.

이런 가운데 미국이 이번 이란 전쟁에서 AI를 활용한 사실이 밝혀졌다. 폭격 대상과 시점을 시뮬레이션하는 과정에서 범용으로 개발된 생성형 AI 기술이 사용된 것으로 드러났다.

10일 외신 보도에 따르면 미국은 이란 침공 과정에서 앤트로픽의 거대언어모델(LLM) AI '클로드'를 활용했다. 클로드는 오픈AI '챗GPT'와 구글 '제미나이'처럼 범용·상업용으로 개발된 거대언어모델 AI다.

사람들이 일상에서 사용 중인 AI가 천인공노할 짓이 벌어진 전쟁에서 '무기'로 활용된 것이다. 클로드 사용자 측에서 보면, 초등학교에 미사일을 쏴 12살 이하 초등학생과 선생님 등 175명을 한꺼번에 숨지게 만든 AI를 일상에서 쓰고 있는 꼴이다.

범용 거대언어모델 AI가 전쟁 사전 연습과 폭격 결정 시뮬레이션에 활용된 것은 이번이 처음이다.

미사일 폭격을 당한 초등학교는 이란혁명수비대 해군기지에 인접해 있다.

뉴욕타임스는 지난 5일 위성 사진과 영상 분석 등을 근거로 미군이 이슬람혁명수비대 해군기지를 공격하는 과정에서 초등학교를 오인 타격했을 가능성이 크다고 보도했다. 학교 건물이 이슬람혁명수비대 해군기지와 매우 가깝고, 위성 사진에서 학교를 포함해 인근 혁명수비대 시설 최소 6곳이 정밀 타격된 흔적이 확인됐다는 것이다.

CNN 방송은 지난 8일 미나브 초등학교 인근에 떨어진 미사일은 미군이 사용하는 비지엠(BGM) 또는 유지엠(UGM)-109 토마호크 지상 공격 순항 미사일(TLAM)로 보인다고 보도했다. 워싱턴포스트도 익명 전문가 8명을 인용, 해당 미사일이 미국 토마호크 미사일로 보인다고 전했다.

그동안 미국은 이란 초등학교 폭격에 대해 "조사 중"이란 말만 반복해왔다. 트럼프 미국 대통령은 "이란 짓"이라는 주장을 펴기도 했다. 미국 언론 보도를 종합해 보면, 트럼프 대통령이 거짓말을 했을 가능성이 크다.

'인정'과 '사정' 없이 목표와 결과를 우선시 하는 AI를 전쟁에 활용해 빚어진 참사라는 지적이 나온다.

인정과 사정을 보는 사람이라면, 군사시설이라도 인근에 학교나 병원 등 인구밀집 민간시설이 있으면 섣불리 폭격 결정을 내리지 못했을 것이다. 혹시 약간이라도 오조준되거나 위성항법신호(GPS) 오차 내지 바람의 영향 등으로 예상 지점을 벗어나면 엄청난 민간인 사상자가 발생할 수 있어서다.

더욱이 이번 폭격은 학생들이 등교해 학교에서 공부를 하는 시간에 이뤄졌다. 사람이라면, 좀더 신중을 기하거나 미사일·공중 폭격 대신 다른 방법을 찾는 게 일반적이다. 

이게 AI 결정으로 이뤄진 것이라면?

인정과 사정을 두지 않았을 가능성이 크다. 적의 주요 군사시설 파괴라는 목표와 결과를 우선 시 해, 옆에 학교가 있어 잘못하면 엄청난 민간인 인명 피해가 발생할 수 있다는 점을 외면했을 가능성이 크다.

AI를 전쟁 도구로 쓰면 안 되고, 특히 AI 판단과 결정을 그대로 따르면 절대 안 된다는 경고가 나온 이유다.

클로드를 개발업체 앤트로픽의 다리오 아모데이 최고경영자는 지난 1월 내놓은 '기술의 사춘기'란 글에서 AI의 현재 단계를 '사춘기'로 규정했다. 불안정한 상태 단계라는 것이다. 사람들의 AI 활용 태도 역시 성숙하지 못한 상태라고 짚었다.

하지만 미국은 이스라엘과 함께 이란을 침공하며 범용 거대언어모델 AI를 끌어들였다. 불안정해 어디로 튈지 모르는 '사춘기 AI'를 전쟁에 활용했다.

살상 무기에 AI가 결합되면 살상력이 훨씬 높아진다. 인정과 사정을 둘 여지가 없기 때문이다.

AI는 2022년 시작된 러시아-우크라이나 전쟁에서도 쓰였다. 미국 팔란티어의 데이터 분석 AI 플랫폼이 사용됐다. 위성 사진, 드론 영상, CCTV 등과 사회관계망서비스(SNS) 정보 등을 통합 분석해 타격 목표를 도출하고, 전쟁 범죄 증거를 수집하는 용도 등으로 활용됐다.

가자 전쟁에서도 군사용 AI가 활용됐다. 이미지 분류와 물체 탐지 등 한정된 용도로 쓰였다.

범용 거대언어모델 AI는 다양한 형태의 이질적 정보를 함께 분석하고 맥락화한다. 복잡한 추론 결과를 내놓고, 실시간 시뮬레이션도 가능하다.

미국은 이번 이란 전쟁에서 휴민트(정보원 등을 통해 수집)와 시긴트(도청 등을 통해 수집) 정보를 분석해 폭격 지점과 시간 등을 정할 때 클로드를 활용했다. 이를 통해 이란 정부와 군 수뇌부를 동시에 제거하고, 군사시설 1천여곳을 파괴했다. 클로드를 활용한 시뮬레이션을 통해 정확도를 높였을 수 있다.

군사 전문가들은 언론 인터뷰에서 "기존 전쟁에서 사용된 특화 AI가 표적을 감지해 타격 성공률을 높이는 수준이었다면, 미국의 이란 공격 당시 클로드는 무엇을, 언제, 왜 타격해야 하는지를 분석해서 인간 사령관에게 말로 설명하는 참모 역할을 했다는 이야기"라고 설명했다.

앤트로픽은 지난해 11월부터 클로드를 군에 제공했고, 지금은 중단됐다. 클로드 활용 대상과 목적을 놓고, 앤트로픽과 미국 행정부 사이에 갈등이 빚어졌다.

앤트로픽은 '미국 정부가 클로드로 미국 시민을 감시하고, 인간 개입 없는 완전 자율 무기 체계를 구축하려고 한다'고 경고하고 나섰다. 앤트로픽은 어디를 타격하고 전쟁을 어떻게 이끌지 등을 결정하는 모든 과정에 인간이 참여하지 않는 완전 자율 무기는 아직 신뢰성이 부족해 미국 군인과 민간인을 위험에 빠뜨릴 수 있다고 주장했다.
  앤트로픽 최고경영자는 '기술의 사춘기' 글에서도 AI를 '데이터센터 안의 천재'라고 묘사하며, 인간의 통제를 벗어나 예기치 않은 행동을 하려고 하고, 독재자가 감시·무기 체계를 통해 시민을 통제하고 다른 나라를 지배하는 수단으로 활용되는 위험성이 있다고 짚었다.

미국 행정부는 즉각 앤트로픽과 결별했다. 클로드 사용 계약을 파기하고, 연방기관에 클로드 사용을 전면 금지시켰다.

대신 오픈AI가 기회를 잡았다. 미국 전쟁부가 클로드 대신 오픈AI의 '챗GPT'를 쓰기로 했다.

앤트로픽이 반전 또는 개인에 대한 감시(빅브라더) 반대 경영 철학을 갖고 있는 것은 아니다. 물론 남다른 탄생 스토리를 갖고 있긴 하다.
 
앤트로픽은 비영리 조직으로 출발한 오픈AI가 영리화의 길을 가면서 AI의 안전성보다 속도를 중시하는 상황에 반발해온 연구원들이 나와 만든 공익법인이다. 클로드를 두고, 철학자가 만든 지침과 대화를 통해 옳고 그름을 구분하고 공감할 수 있도록 설계됐다는 평가가 나오는 것도 이런 탄생 배경에 따른 것이다.

같은 맥락에서 앤트로픽의 행보는 '용기 있는 행동'으로 치켜세워지고 있다. 반면 오픈AI의 챗GPT 사용자들 사이에선 '보이콧' 움직임이 일고 있다.

현재 세계에선 거대언어모델 AI '왕좌'를 향한 국가·기업 간 경쟁이 치열하다. 평가 잣대로 사용되는 각종 지표에 따라 '장군 멍군' 식으로 앞서거니 뒤서거니를 반복하고 있다.

우리나라에선 AI 기술 발전과 생태계 육성을 위한 '국가 대표 AI 경연'까지 진행되고 있다. 

범용 거대언어모델에 '완전 자율 무기'(인간 개입을 최소화하거나 없앤) 지위를 부여해 전쟁에 투입한다고 가정하면, 각각 어떤 차이를 보일까. 특히 상황이 궁지로 몰리면 AI는 어떤 선택을 할까.

최근 이와 관련된 흥미로운 연구결과가 나왔다. 미국의 3대 범용 거대언어모델 AI로 다양한 상황을 가정해 전쟁 시뮬레이션을 해봤더니, 결국에는 모두 핵무기를 쓰더라는 것이다. '학습 방식과 출발점이 다른 AI' 클로드 역시 궁지에 몰리면 핵무기를 쓴다는 결론은 같았다.

핵무기를 쓴다는 것은 '이기는' 것에 집착해 '사람'과 '지구'는 어찌되든 고려하지 않는다는 것으로 해석될 수 있다.

문득 미군이 이란 초등학교 인근 혁명수비대 해군기지을 폭격하기로 결정할 때 AI에 어떤 지위가 주어졌는지 궁금해졌다. 혹시 AI에게 '완전 자율 무기' 지위를 주고, AI 결정에 따라 폭격 버튼을 누른 것은 아닐까?

아무리 강력한 AI라도 아직은 민간인 살상 가능성을 변수로 놓고 고민할 능력까지는 갖추지 못했다.

김인아 한양대 교수는 언론 기고문에서 "영화 ‘오펜하이머’에서 핵무기 개발 실험을 성공적으로 이끈 줄리어스 로버트 오펜하이머는 ‘이제 나는 죽음이 되었고, 세상을 파괴하는 자가 되었다’고 했다"며 "되살아난 제국주의 세계에서 전쟁에 나설 AI가 오펜하이머처럼 회한이라도 느끼도록 좀 더 확실하고 체계적으로 인권을 학습시켜야 하는 걸까"라는 질문을 던졌다.

김 교수는 이어 "그러한 상황에서 머뭇거리고 고뇌하는 AI를 개발하기에 앞서 전체 의사결정 과정에서 고뇌하고 결단하는 인간이 되어야 할 것"이라고 짚었다.

그런 측면에서 AI 석·박사가 되려는 LG AI대학원 신입생들을 대상으로 한 구광모 LG 회장의 당부 내용은 당연하고도 시의적절하다. 다만, 구 회장의 당부가 '오펜하이머의 회환'처럼 인간적인 고뇌의 결과인지는 알 수 없다.

한가지 가정을 해보자. 미국 행정부가 클로드 말고 LG AI연구원의 '엑사원' AI를 쓰겠다고 제안했다면, LG그룹과 구 회장은 어떤 선택을 했을까. 'AI는 사람을 향해야 한다'며 단박에 거절했을까, 아니면 오픈AI처럼 덥썩 수용했을까.

SK그룹 등 국가 대표 AI 경연 숏리스트에 오른 다른 국내 AI 사업자들은 어땠을까. 과연 다른 선택을 했을까. 김재섭 선임기자