Open AI 공동창업자 일론머스크 SV 샘 알트만 갈등과 인공지능 개발의 위험성

Open AI 공동창업자 일론머스크 SV 샘 알트만 갈등과 인공지능 개발의 위험성

Open AI 공동창업자 일론 머스크 SV 샘 알트만 갈등과 인공지능 개발의 위험성

일론 머스크와 샘 알트만 Open AI를 둘러싸고 서로 결별하게 되었다.
테슬러 창업자인 일론 머스크는 Open AI의 공동창업자다.

[lwptoc min=”20″ depth=”6″ hierarchical=”1″]

일론 머스크는 Open AI 공통 창업자 샘 알트만과 헤어 지면서 Open AI에 대한 비난을 멈추지 않고 있다.

Open AI의 탄생 배경

그는 Open AI 창업자 샘 알트만과 결별하게 되면서 Open AI가 Crosed AI가 되었다고 비난했다.
Open AI가 MS의 영향력 아래 들어간 것을 꼬집어 비판한 것이다.

샘 알트만은 28살 어린 나이에 실리콘밸리 지역의 스타트업 액셀러레이터 Y콤비네이터 CEO에 올랐다.
알트만은 Y콤비네이터 CEO로서 액셀러레이터와 같은 투자자는 과학과 기술에 재능이 있는 젊은 인재들이 더 많이 활동하도록 독려하고 돕는 일이라고 생각했다.

Open AI를 창업하게 된 계기는 몇 년 전 구글 딥마인드의 알파고가 세계 바둑의 최고수들을 잇달아 물리치는 모습을 보고 인공지능의 발달이 인류에게 위협이 될 수 있다고 생각했다.
대기업이 인공지능을 독점하면 그에 따른 이익도 대기업이 독점하게 됨으로써 부의 불평등을 가져오게 된다고 보았다.

그렇다면 자신이 대기업들 보다 먼저 강력한 인공지능을 개발하여 인류 모두에게 이익이 되는 안전한 인공지능을 만들어야 된다고 생각했다.

Open AI 개발에 집중하기 위해 Y콤비네이터 CEO에서 물러난 샘 알트만은 Open AI를 창업하고 본격적인 대중을 위한 인공지능 개발에 몰두했다.

Open AI는 2018년과 2019년 첫 번째 언어모델 GPT와 GPT2를 발표했다.
2020년 후속작인 GPT-3를 내놓았다.

한층 더 발전한 GPT-3는 질문에 답하고 문서들을 요약해서 스스로 새로운 문장을 지어내고 인간처럼 문장을 구사할 수 있는 진보를 가져왔지만 문제점들도 함께 가지고 있었다.
이전 모델에 비해 엄청난 양의 데이터를 기반으로 훈련이 되었지만 온라인에서 얻은 데이터에는 허위 정보와 편견들이 넘쳐 나고 이를 받아들여 재 생산하게 됨으로 신뢰성에 문제가 발생한다는 것이다.

Open AI는 2022년에 GPT-3의 잘못된 정보나 불쾌감을 주는 문장을 만들지 않도록 개선하기 위하여 강화 학습을 시작했고 인간 평가단의 피드백을 훈련에 반영했다.
그 결과 PGT-3는 잘못된 정보를 만들고 실수를 저지르는 일이 감소하게 되었다.

Open AI는 2022년 말 ‘Chat GPT‘란 이름으로 GPT3.5 버전을 출시하였다.
출시 한 달 만에 전세계 1억명이 넘는 사람들이 사용하는 엄청난 반향을 일으켰고,  2023년 3월 GPT4 버전을 출시했다.

일론 머스크는 왜 Open AI를 떠났나?

Open AI 창업자 샘 알트만은 인공지능 발전이 피할 수 없다면 소수가 아닌 다수를 위해 윤리적으로 사용해야 한다고 생각했다.
이를 위해 다른 기업들 보다 더 빨리 더 강력한 인공지능 기술을 갖춰야 한다고 여겼다.

샘 알트만은 이를 실현 시키기 위해 2019년 Open AI의 자회사 ‘Open AI LP’를 비영리단체로 출범시켰다.
비영리와 영리의 중간 형태로 이익보다 미션이 먼저다는 전제로 영리적 결정은 지분이 없는 이사들의 내린다는 원칙이다.
‘Open AI LP는 2019년 마이크로소프트로 부터 10억 달러를 투자 받았다.

Chat GPT를 개발하는 대부분의 직원도 Open AI LP 소속이며 샘 알트만은 Open AI LP의 지분을 소유하지 않은 것으로 알려져 있다.

치명적으로 뒤쳐졌다며 알트만 비난 이해관계

Open AI LP에 우려하는 사람도 있다.
바로 Open AI 공동창업자 일론 머스크다.
일론 머스크는 2018년 Open AI 이사회에서 사임했다. 자회사 설립과 MS 투자 등 이견에서 비롯 되었다.

공동 창업자 관계였던 일론 머스크와 샘 알트만의 인공지능에 대한 철학에 이견이 생겼다.

일론 머스크와 샘 알트만은 인공지능이 인간을 넘어서는 것은 필연적이며 책임감 있고 윤리적으로 발전시켜야 된다는 생각은 일치 하지만 이를 해결하는 방식에서 이견이 생겼다.

샘 알트만은 인공지능의 부작용을 최소화하고 인류와 공존하기 위해서 개발단계에서 사회에 배포해 다양한 문제에 부딪혀서 빠른 학습을 통해 올바른 방향을 찾아 나가야 한다는 생각이다.

반면 일론 머스크는 인공지능은 미래에 인류를 전멸시킬 수 있는 능력을 갖추게 되고 핵무기보다 위험하다고 생가하고 생각한다.
그래서 인공지능을 연구하되 규제와 경계를 지속하면서 최대한 조심스럽게 발전시켜나가야 한다는 주장이다.

최첨단 AI – 6개월간 개발 멈추자.

Open AI를 떠난 일론 머스크는 최첨단 AI 시스템의 개발을 일시 중단하자고 촉구했다.

미국 비영리단체 ‘삶의 미래 연구소’는 유명인사 1280명의 서명을 받아 최첨단 AI 시스템 개발을 일시 중단하자고주장했다.

서한에는 머스크, 워즈니악, 이미지 생성 AI 스테이블디퓨전 개발사 CEO 에마드 모스타크, 핀터레스트 CEO 에번 샤프, 세계적 작가 유발 하라리, AI권위자 스튜어트 러셀 UC버클리 교수, 알파벳 산하 AI기업 딥마인드의 연구진 등 유명 전문가가 함께 서명했다.
서명을 주도한 일론 머스크는 “문명의 미래에 큰 위험 주 하나는 AI”라고 주장했다.

서한에 서명한 인사들은 “최첨단 AI가 역사상 중대한 위협이 될 수 있다. 최근 공개한 AI모델 GPT-4보다 강력한 AI 개발을 최소 6개월 간 즉시 중단하고 만약 시행할 수 없다면 정부가 개입해 유예조치를 취해야 한다”고 했다.

이 가운데 주목을 끄는 것은 현제 인공지능 업계의 리더이자 일론 머스크와 함께 Open AI를 공동창업한 샘 알트만은 서명하지 않았다.

 공동창업자 일론머스크 샘 알트 인공지능 개발
공동창업자 일론머스크 샘 알트 인공지능 개발

Open AI 그리고 인공지능의 과제

인공지능의 개발에는 Open AI LP가 주도하는 상황이다.
그리고 수많은 개발사들이 인공지능 개발에 전력투구하며 날마다 더 발전된 새로운 인공지능이 나오고 있다.

생성형 인공지능은 인간이 만들어낸 글, 그림, 음악, 영상 등의 데이터를 가지고 학습을 하고 진화한다.
하지만 이로 인해 그 동안 창조적인 일을 했왔던 작가, 화가, 사진작가, 작곡가, 영상제작자 들이 설 자리를 잃게된다.
이것은 이들이 그 동안의 노력을 저작권도 받지 못하고 더 이상 생산적인 일을 지속할 수 있는 동력을 잃게 된다는 의미이다.

그렇게 되면 이후의 세상은 Ai가 만들어 낸 정보들로 넘쳐 나게 될 것이다.
이 정보는 진실성 책임 문제도 불분명하다.

그리고 AI들은 인간이 만들어낸 정보가 사라진 세상에서 자기들이 만들어낸 정보들로 학습하고 발전해 나갈 것이다.
이렇게 인공지능 간에 생성된 정보들로 학습을 하게 되면 정보의 질이 떨어진다는 연구 결과도 있다.

마치 복사기에서 복사한 종이로 또 다시 반복 복사를 하면 결국 아무 것도 알아 볼 수 없는 것과 같은 것이다.

더 큰 문제는 세상에는 불순한 생각을 가지고 반 인간적인 행동을 하는 사람이나 단체 국가도 분명이 존재한다.
이들이 AI를 활용해 인간에게 위협적인 방향으로 끌고 가지 않는다는 보장도 없다.

 공동창업자 일론머스크 샘 알트 인공지능 개발
공동창업자 일론머스크 샘 알트 인공지능 개발

AI는 기존의 프로그램 알고리즘과는 차원이 다르다.
스스로 학습해서 진화하고, 스스로 생각해서 결과를 도출하기 때문에 어느 방향으로 진화하고 행동할 지 인간이 알기도 힘들고 제어하기도 힘들다.

역사적으로 선한 사람들이 선의로 행한  일이 사람들을 해롭게 하는 것도 있다.
다이너마이트를 개발한 노벨이 건설 현장에서 인간의 노고와 위험을 줄이고자 만들었든 다이너마이트가 전쟁에서 사람을 죽이는데 더 많이 사용되는 것을 보고 실망 했듯이
Open AI를 창업한 샘 알트만의 의도가 얼마나 선했던 자신이 만든 인공지능이 인류를 파괴한 위험성에 많은 사람들이 우려하고 있다는 것도 알아야 한다.

때문에 핵무기의 가공할 위험성을 알고 인류는 핵 억제를 위해 인류 전체의 관리 룰을 만들었던 경험이 있듯이 AI에 대해서도 국제적인 협력과 공동의 노력이 있어야 한다.

sns 기사보내기

 

 

3 thoughts on “Open AI 공동창업자 일론머스크 SV 샘 알트만 갈등과 인공지능 개발의 위험성

답글 남기기