생성형AI가 만들어가는 인간불신 사회

영상버전 : https://youtu.be/h9mVZ6MHQ4k

#생성형AI 가 아무리 발전해도 그걸 쓰는 사람의 능력 이상은 끌어낼 수 없다. 

요즘 이런 이야기를 하시는 분들이 늘고 있습니다. 

저 역시 공감하고 있고, 어제 그 공감이 또 확신이 되었네요. 

신규 고객의 환경은 #proxmox 로 #kubernetes 를 관리하는 환경인데요. kubernetes가 원래 #docker #container 관리를 편하게 해주는 툴 이잖아요?

그런데 kubernetes를 바로 안쓰고 다시 proxmox라는걸 이용해서 #가상환경 까지 통합관리를 하더라구요.. 

즉, #VMWare + Kubernetes 랄까요?

Kubetnetes를 그냥 쓰면 어딘가 docker 이미지를 디플로이 할 수 있는 환경을 손수 준비를 해야 하지만, proxmox에서 설정하면 자동으로 VM과 docker 이미지를 같이 디플로이 할 수 있다.. 인데요.. 

어떻게 보면 참 편리한 도구 같잖아요?

하지만, 역으로 이게 더 관리가 어렵네요. 

이유는 VM을 위한 환경 변수도 다 설정해야 하고, 

VM이 설치 된 뒤의 Docker이미지 관련 환경 변수도 다 설정하고 해야 하니

어짜피 한 화면에서 하느냐 서너화면에서 하느냐 차이 밖에 없더라구요..

너무 복잡하게 설정되어 있어서, 이걸로 서비스를 하나 만들었는데 신규 고객용으로 디플로이 하는거 자체가 엄청난 수작업 해야하는 상황입니다.

이 이야기는 관리포인트가 더 많아서 장애에 대한 대처 지식이 더욱 필요한 것이지요.  

그런데 일이 터져 버렸습니다. 

인수인계를 받자마자 일 주일도 안되어 서비스가 떨어졌습니다. 

인계를 해준 타이 개발자들은 나몰라라 하고 인계후 연락을 끊어버렸구요.. 

이 원인을 찾기 위해 #chatgpt 를 사용해서 에러 메시지와 그에 따른 원인을 묻고 그 원인처럼 보이는 것을 하나씩 찾아서 제거해 갔죠. 

그런데 사실 이 작업은 세 명이서 각자 했습니다. 

저 포함 세 명은 chatgpt를 업무에 적극 활용하여 사용 전보다 두 배 이상의 업무 효율을 내고 있는 상태이구요..

거의 chatgpt에 지나치게 의존하고 있는 상황이기도 합니다.

이 시스템에 대해서 배우기도 할 겸 각자에게 해결해 보라고 지시를 했고, 해결 못할까봐 저도 같이 매달렸죠. 

요즘은 #개발자 도 인프라를 만질 수 있도록 컨테이너화 하고 클라우드에서 사용하고 하잖아요? #풀스택 #엔지니어 어쩌고 하면서..

그렇기 때문에 다들 #클라우드 환경을 처음 만질 때 처럼 당황하는 느낌이었지만, 두 사람은 chatgpt의 횡설수설에 중간에 헤메고 있었구요, 저는 kube-apiserver 가 자체 cluster master와 slave 를 연결하는데 ssl이 필요한데 그게 문제 인 부분을 찾았죠. 물론 chatgpt는 범용적인 대응만 이야기 했구요.. 

거기서 구체적인 증거를 찾아 이를 해결하는 방법에 대해 chatgpt에게 요청하니 그에 대한 대응 방법은 명확하게 알려주더랍니다. 

그렇게 해결을 했구요.. 이런 구조는 저도 처음 보지만, 보고나서 이렇구나 느꼈고, 그거에 대해서 chatgpt와 대화를 통해 더욱 구체적으로 알게 되었습니다. 하지만 이 부분을 몰랐다면 아직도 chatgpt와 농담따먹기 하고 있었겠죠..

또다른 예를 들어볼께요.

지금 저 포함 세 명은 chatgpt를 엄청 잘 활용하고 있죠. 

하지만 한 사람의 의존도는 이상할 정도로 치우쳐 있습니다. 

그 사람이 chatgpt에게 질문하여 얻은 결과물은 제 경험과 지식보다 정확하지 않는 경우가 많습니다. 

이유는 chatgpt는 그 사람의 능력에 준 하여 대답을 하기 때문이죠. 

하지만, 제 말보다 chatgpt의 말을 더 신뢰하기 시작했지요. 

제가 이 작업은 안된다고 이야기를 하면

Chatgpt에게 물어봐서 얻은 대답을 여과없이 복붙으로 채팅창에 던지며

이렇게 한다면 된다던데? 

라고 저를 의심하기 시작했네요. 

하지만 그 방법 역시 이미 써봤기 때문에 안된다고 한거였다고 이야기를 해야 

비로소 납득을 합니다. 

즉, 인간 불신이 시작된 느낌이죠.. 

Chatgpt의 대답에 논리적으로 대적할 수 없으면

이젠 신뢰를 얻을 수 없는 상황까지 오고 있는 것 같습니다.

chatgpt는 인류의 대부분의 정보를 습득했습니다. 

하지만 chatgpt는 질문자의 질문에 대해서만 대답을 합니다. 

질문이 모호할 수록 일반론을 말하죠. 

정확한 개념을 머릿속에 넣고 구체적인 대답을 도출할 질문을 만들어내는 사람들이 chatgpt를 가장 효율적으로 사용할 거라 생각이 듭니다. 

즉, chatgpt의 대답을 신뢰하기 전에

자신이 정말로 맞는 질문을 했는지를 먼저 성찰하지 않으면

인간 불신까지 이어지지 않을까 걱정이 됩니다. 

Chatgpt는 된다는데 왜 안된다고 하지?

정말 저 사람은 실력이 없는거 아냐?

라고 생각한다면.. 소름이 돋네요.. 

아니 이미 여기저기선 이런 분위기가 퍼지고 있는 듯 합니다.

많은 프롬프트들이 돌아다니고, 

프롬프트들은 점점 고도화 되어가고 있습니다. 

하지만, 가장 중요한 것은

자기의 업무에 대한 프롬프트는 스스로 만들 정도의 능력이 필요한 거죠. 

그렇지 않으면 스스로 chatgpt가 옳은 대답을 하고 있는지 판단을 못하고, 

오히려 인간불신에 사로 집히지 않을까요?

앞으로도 AGI가 나온다 한들

그들은 더욱더 질문자의 의도를 생각해서 대답을 할 겁니다. 

즉, 

이 넘은 이 정도 수준이니까 이 정도만 이야기 해줘도 될거야. 

이 넘은 많이 아니까 이정도 대답을 해주지 않으면 날 괴롭힐거야 

라고 AGI는 생각하고 대답하지 않을까요?

貼り付け元  <https://www.linkedin.com/feed/> 

 giip :: Control all Robots and Devices! Free inter-RPA orchestration tool! https://giipasp.azurewebsites.net/