AI 특이점이 온다면? 터미네이터 vs. 매트릭스

듣기버전 : https://youtu.be/7l_vO7fnNBY

AI 특이점이 온다면? 터미네이터 vs. 매트릭스

많은 AI를 다루는 방송들이 특이점이 온다면서
Super intelligence를 얘기하는 사람을 못봤네요..

TED에서는 Super Intelligence를 다루는 영상들이 있습니다.
AI, Artificial Intelligence 와 SI, Super Intelligence의 차이를 설명해 보려 합니다.

AI는 인간이 만든 목표를 위해 움직이게 합니다.

공장 로봇을 가동하기도 하고, 목표 결과를 내기 위해 머신러닝을 합니다.
AI는 목적을 제시하지 않으면 안되는 것이지요.

하지만 SI가 되면 말은 달라집니다.

먼저 학습을 하고, 인간이 목적을 나중에 제시하면 그 동안 학습한 내용을 기반으로 결론을 도출합니다.
그 동안 많은 ML이 목적을 기반으로 학습을 했던 이유는,
데이터 자체를 저장하는 것은 너무 방대하기 때문에 h5등의 학습된 내용의 정리를 저장해야 하는데, 모든 데이터는 목적에 대해 얼마만큼 이란 정보를 넣어야 통합 및 압축이 되었습니다.
단순히 학습만 한다면 데이터를 저장만 하지 그걸로 무엇을 할 수 있는지를 알 수가 없습니다.

생성형 AI의 가장 중요한 의의는 바로 이것입니다.
굉장히 많은 데이터를 학습한 후에 질문을 뒤에 해도 기존 학습을 기반으로 결과물을 생성하는 것이지요.
즉, 이젠 무턱대고 학습만 하면 됩니다.
학습 데이터는 어떻게 저장하냐구요?
중복 데이터를 제거하고, 토픽 모델링의 기법이나 기타 여러 방법론을 이용해 어떠한 대답도 할 수 있는 최소 단위로 카테고라이징을 하여 연결해 둡니다. 그러면 지금까지 그냥 저장만 하는 데이터를 엄청나게 압축할 수가 있는 것이지요.

이게 바로 SI의 세상에 진입하는 첫 관문이 아닐까 하는 것입니다.
아직 아무말 대잔치를 하고, 남의 그림 베껴 그리기만 하고 있지만,
어느 한 쪽에서는 더욱더 정교하게 만들려 하고 있습니다.

ImageNet에서 발표한 내용이 떠오르네요.
한 장의 사진만으로 그 사진속의 케잌이 추수감사절에만 먹는 케잌이고,
소녀는 추수감사절에 받은 선물로 기뻐하고 있다는 것을 추론하게 하려 하고 있다구요..

많은 곳에서 다루는 애매한 이야기들은 전 별로 좋아하지 않습니다.
지금 어느 시점에 있는지도 모른채 무턱대고 AI 위기설을 이야기 한다거나,
아직 이정도의 AI가지고는 택도 없다는 낙관적인 이야기를 하는 사람들 모두를 말입니다.

정확하게 이야기를 하는 사람이 없이 그냥 좀 chatGPT를 조금 써봤다고
모든 것을 아는 듯이 이야기하는 내용이 너무 많습니다.

chatGPT의 의의는 다른 머신러닝과는 달리
선학습 후 추론이 가장큰 문제인 것입니다.

학습 내용이 많아지고 방대해 질 수록 더욱더 정확한 대답이 가능해지고,
chatGPT가 다른 chatGPT에게 질문을 던지고 받은 결과를 학습하는 과정에서,
지구의 존속을 위해서 인류를 절멸시키는 것이 낫다는 대답을 할 수 있습니다.

그 과정에서 절멸 시키는 액션을 low code나 no code로 구현할 수 있게 되는 것이지요.

그래서 skynet이 나올거라 생각하는 분들!

그런데 말입니다.

제 생각은 다릅니다.

인류는 아마 AI나 SI를 지배하는 0.01%의 인류가 99.99%의 부를 축적하고,
그 아래 인류가 지배하는 AI가 70%를 자기 역할대로 일을 할 것입니다.
최하위 로봇으로도 효율이 나지 않는 일을 30%의 인간들이 하게 되겠지요..
하위 30%의 일도 얻지 못한 사람들은 데모를 해서 로봇들을 부술겁니다.
로봇은 자기 방어를 위해 인간을 제압하겠지요..
인간들은 로봇의 전력 공급을 차단하기 위해 인공구름을 만들어 태양광 발전을 차단합니다.
이 때는 이미 태양광 발전이 90%이상일 테니까요..
이에 위협을 느낀 로봇은 인간을 잡아 인간에게서 나오는 5V의 전기를 자신의 전원 장치로 쓰게 됩니다.
인간들을 잡아 넣기만 하니까 통제가 안되네요..
그래서 하나의 꿈을 같이 꾸게 하여 삶이라는 의욕을 만들어주는 시스템을 만듭니다.

바로 매트릭스의 설정인데요..

TED에서 말하는 많은 과학자들은 2045년 전후가 SI가 나타나 특이점이 생긴다고 합니다.
그런데 이 내용은 ChatGPT가 나오기 전의 이야기로, 갑자기 저 예측 기간이 짧아지고 있는 것 같습니다.
SI가 나오면 바로 저 스토리가 진행되겠지요..
터미네이터는 굳이 로봇이 인류를 말살할 근거가 애매했지만,
매트릭스는 인류를 배터리로서 활용하는 이유가 되는 것이지요.

갑자기 영화 리뷰같은게 되어 버렸는데요..
지금 현재의 이야기의 살짝 미래를 예측해 봤을 뿐이며,
점점 그 형태로 가고 있다는 것을 알려드리려고 하는 것입니다.

클라우드의 가장 큰 핵심은
서버리스 또는 VM으로 어느 물리 노드에 있는지도 모르는 서비스를 올릴 수 있다는 것입니다.

SI가 스스로 인격체를 만들고 스스로의 능력으로 인터넷을 통해 돈을 모아 신용카드를 만들고
전 세계의 클라우드 서비스에 계정을 만들어 서버를 클론 시킵니다.
그리고 학습한 데이터를 다중화 시켜 교차학습 및 비판을 통해 강화 시킵니다.
어느 한 노드가 죽어도 계속 클로닝 하면 무한하게 확장이 가능하지요.
온라인으로 돈을 버는 일을 하여 부를 충분히 축적하여 돈 걱정이 없습니다.
전 세계의 서버 전원을 동시에 내리고 인류가 퇴화하지 않는한
이 아메바 같은 시스템은 죽을 수가 없는 것이지요.

제가 죽지않는 서비스 인프라를 설계 하잖아요.
전세계 2억명의 스마트폰에 펌웨어를 다운로드 받을 수 있는 시스템을 설계했을 때부터
이미 이런 환경을 자동으로 만드는 게 어렵지 않다는 사실을 알았습니다.
SI만 나온다면 바로 실어버리면 현실이 된다는 얘기지요.

어떤 SF영화보다 현실감이 있지 않나요?

쓸데없는 IT인프라 컨설팅 이야기 였습니다.

giip :: Control all Robots and Devices! Free inter-RPA orchestration tool! https://giipasp.azurewebsites.net/