기본 콘텐츠로 건너뛰기

생성형AI가 만들어가는 인간불신 사회




#생성형AI 가 아무리 발전해도 그걸 쓰는 사람의 능력 이상은 끌어낼 수 없다. 

요즘 이런 이야기를 하시는 분들이 늘고 있습니다. 
저 역시 공감하고 있고, 어제 그 공감이 또 확신이 되었네요. 

신규 고객의 환경은 #proxmox 로 #kubernetes 를 관리하는 환경인데요. kubernetes가 원래 #docker #container 관리를 편하게 해주는 툴 이잖아요?
그런데 kubernetes를 바로 안쓰고 다시 proxmox라는걸 이용해서 #가상환경 까지 통합관리를 하더라구요.. 

즉, #VMWare + Kubernetes 랄까요?

Kubetnetes를 그냥 쓰면 어딘가 docker 이미지를 디플로이 할 수 있는 환경을 손수 준비를 해야 하지만, proxmox에서 설정하면 자동으로 VM과 docker 이미지를 같이 디플로이 할 수 있다.. 인데요.. 
어떻게 보면 참 편리한 도구 같잖아요?

하지만, 역으로 이게 더 관리가 어렵네요. 
이유는 VM을 위한 환경 변수도 다 설정해야 하고, 
VM이 설치 된 뒤의 Docker이미지 관련 환경 변수도 다 설정하고 해야 하니
어짜피 한 화면에서 하느냐 서너화면에서 하느냐 차이 밖에 없더라구요..
너무 복잡하게 설정되어 있어서, 이걸로 서비스를 하나 만들었는데 신규 고객용으로 디플로이 하는거 자체가 엄청난 수작업 해야하는 상황입니다.

이 이야기는 관리포인트가 더 많아서 장애에 대한 대처 지식이 더욱 필요한 것이지요.  

그런데 일이 터져 버렸습니다. 
인수인계를 받자마자 일 주일도 안되어 서비스가 떨어졌습니다. 
인계를 해준 타이 개발자들은 나몰라라 하고 인계후 연락을 끊어버렸구요.. 

이 원인을 찾기 위해 #chatgpt 를 사용해서 에러 메시지와 그에 따른 원인을 묻고 그 원인처럼 보이는 것을 하나씩 찾아서 제거해 갔죠. 

그런데 사실 이 작업은 세 명이서 각자 했습니다. 
저 포함 세 명은 chatgpt를 업무에 적극 활용하여 사용 전보다 두 배 이상의 업무 효율을 내고 있는 상태이구요..
거의 chatgpt에 지나치게 의존하고 있는 상황이기도 합니다.
이 시스템에 대해서 배우기도 할 겸 각자에게 해결해 보라고 지시를 했고, 해결 못할까봐 저도 같이 매달렸죠. 

요즘은 #개발자 도 인프라를 만질 수 있도록 컨테이너화 하고 클라우드에서 사용하고 하잖아요? #풀스택 #엔지니어 어쩌고 하면서..
그렇기 때문에 다들 #클라우드 환경을 처음 만질 때 처럼 당황하는 느낌이었지만, 두 사람은 chatgpt의 횡설수설에 중간에 헤메고 있었구요, 저는 kube-apiserver 가 자체 cluster master와 slave 를 연결하는데 ssl이 필요한데 그게 문제 인 부분을 찾았죠. 물론 chatgpt는 범용적인 대응만 이야기 했구요.. 

거기서 구체적인 증거를 찾아 이를 해결하는 방법에 대해 chatgpt에게 요청하니 그에 대한 대응 방법은 명확하게 알려주더랍니다. 
그렇게 해결을 했구요.. 이런 구조는 저도 처음 보지만, 보고나서 이렇구나 느꼈고, 그거에 대해서 chatgpt와 대화를 통해 더욱 구체적으로 알게 되었습니다. 하지만 이 부분을 몰랐다면 아직도 chatgpt와 농담따먹기 하고 있었겠죠..

또다른 예를 들어볼께요.


지금 저 포함 세 명은 chatgpt를 엄청 잘 활용하고 있죠. 
하지만 한 사람의 의존도는 이상할 정도로 치우쳐 있습니다. 
그 사람이 chatgpt에게 질문하여 얻은 결과물은 제 경험과 지식보다 정확하지 않는 경우가 많습니다. 
이유는 chatgpt는 그 사람의 능력에 준 하여 대답을 하기 때문이죠. 
하지만, 제 말보다 chatgpt의 말을 더 신뢰하기 시작했지요. 
제가 이 작업은 안된다고 이야기를 하면
Chatgpt에게 물어봐서 얻은 대답을 여과없이 복붙으로 채팅창에 던지며
이렇게 한다면 된다던데? 
라고 저를 의심하기 시작했네요. 
하지만 그 방법 역시 이미 써봤기 때문에 안된다고 한거였다고 이야기를 해야 
비로소 납득을 합니다. 
즉, 인간 불신이 시작된 느낌이죠.. 
Chatgpt의 대답에 논리적으로 대적할 수 없으면
이젠 신뢰를 얻을 수 없는 상황까지 오고 있는 것 같습니다.

chatgpt는 인류의 대부분의 정보를 습득했습니다. 
하지만 chatgpt는 질문자의 질문에 대해서만 대답을 합니다. 
질문이 모호할 수록 일반론을 말하죠. 

정확한 개념을 머릿속에 넣고 구체적인 대답을 도출할 질문을 만들어내는 사람들이 chatgpt를 가장 효율적으로 사용할 거라 생각이 듭니다. 

즉, chatgpt의 대답을 신뢰하기 전에
자신이 정말로 맞는 질문을 했는지를 먼저 성찰하지 않으면
인간 불신까지 이어지지 않을까 걱정이 됩니다. 

Chatgpt는 된다는데 왜 안된다고 하지?
정말 저 사람은 실력이 없는거 아냐?

라고 생각한다면.. 소름이 돋네요.. 
아니 이미 여기저기선 이런 분위기가 퍼지고 있는 듯 합니다.

많은 프롬프트들이 돌아다니고, 
프롬프트들은 점점 고도화 되어가고 있습니다. 
하지만, 가장 중요한 것은
자기의 업무에 대한 프롬프트는 스스로 만들 정도의 능력이 필요한 거죠. 
그렇지 않으면 스스로 chatgpt가 옳은 대답을 하고 있는지 판단을 못하고, 
오히려 인간불신에 사로 집히지 않을까요?

앞으로도 AGI가 나온다 한들
그들은 더욱더 질문자의 의도를 생각해서 대답을 할 겁니다. 

즉, 

이 넘은 이 정도 수준이니까 이 정도만 이야기 해줘도 될거야. 
이 넘은 많이 아니까 이정도 대답을 해주지 않으면 날 괴롭힐거야 

라고 AGI는 생각하고 대답하지 않을까요?



貼り付け元  <https://www.linkedin.com/feed/> 


 giip :: Control all Robots and Devices! Free inter-RPA orchestration tool! https://giipasp.azurewebsites.net/

댓글

이 블로그의 인기 게시물

일본 두바퀴 여행(바이크 편)

영상버전 : https://youtu.be/P3vC17iVu1I 이번에는 일본으로 넘어와서 일본 종주하시는 바이커들을 위한 정보입니다.  일본에서의 2륜의 정의가 면허와 도로교통법이 조금씩 다르다고 합니다.  그래도 그렇게 크게 신경쓸 건 없으니 딱 세 종류로 말씀 드릴께요.  50cc는 원동기 1종이라고 하여 3차선 이상 교차로에서 우회전, 한국에선 좌회전 같이 크게 도는 것이지요..  이게 불가능합니다.  직진 신호로 넘어간 뒤에 방향을 틀고 다시 직진으로 두번 꺾어 가야 하구요,  두 명이 타면 안됩니다.  그리고 맨 가장자리 길로만 가야해서 애매하게 끝에서 두 번째 차선만 직진인 곳들이 있어서 난감할 때가 있지요. 그런데에 직진하면 걸리는 곳이 있다고 합니다. 어느 정도까지 걸리고 안걸리고는 정확히는 모르지만,  직좌 마크가 아닌 좌회전 마크만 있는 곳이 은근히 많으니 조심해야 하겠더라구요.  최고 시속도 30km를 넘기면 안되어 천천히 달려야 합니다.  아뭏든 제약이 엄청나게 많으므로 60cc이상을 가져오시거나 렌트 하시는 것을 추천하구요,  125cc미만은 겐츠키 2종이라고 하여 두 명이 타도 되고, 3차선 이상에서 우회전이 가능합니다.  상당히 제약이 풀리는 대신 고속도로를 탈 수가 없지요.  만약 국도로 천천히 올라오신다면 125cc미만으로도 충분합니다.  실제로 일본인 바이커들 중에서도 국도 종주하는 모습을 많이 볼 수 있구요,  도심에 가면 125cc미만까지만 주차 가능한 바이크 주차장도 꽤 많기 때문에 도심용으로는 메리트가 큰 것 같습니다.  뭐, 125cc대는 곳에 큰 바이크를 대는 경우도 자주 보는데, 아무도 뭐라 안하긴 합니다.  그도 그럴 것이, 일본의 바이크 등록대수는 1031만대 인데도 바이크 전용 주차장은 턱없이 부족하다고 합니다. 바이크 주차장이 저렴하기 때문에 웬만한 ...

[Classic ASP] Cookie가 삭제 안되는 문제

만든 쿠키가 삭제가 계속 안되서 여기저기 삽질을 했다. 모든 쿠키를 삭제하는 함수도 만들었다. Function CookieClear(cldomain) For Each cookie in Request.Cookies Response.Cookies(cookie).Domain = "." & cldomain Response.Cookies(cookie).Path = "/" Response.Cookies(cookie).Expires = DateAdd("d",-1,now()) Next End Function 그런데.. 안되서 계속 삽질하다가 하나 알았다.  littleworld.net littleworld.co.kr www.littleworld.net  의 모든 값을 지우려고 했으나.. 처음 만든 쿠키가 www.littleworld.net 인 관계로.. 처음에 www.littleworld.net 의 쿠키를 삭제 해야만 나머지가 지워졌다.. -ㅅ-;; 간단하지만 몰랐던 초보적인 사실.. ---- 누구나 쉽게 광고를! http://www.cashtalk.co.kr Free Infrastructure automation & management tool Global Infrastructure Integration Platform http://giip.littleworld.net Subscribe and publish your links as a book with friends  My Favorite Link Share http://link.littleworld.net

AI에게 존댓말로 질문한다고 AI가 더 자세히 대답해 주지 않습니다! 프롬프트의 뜬소문과 실제. 잘못알고 있는 프롬프트 이야기

영상버전 :  https://youtu.be/rLwhVUIXaQU 어디선가 기사가 있어서 읽다가 코멘트를 단 게 있습니다.  프롬프트 엔지니어링으로 인터넷 강의를 하시는 분 같은데요..  이름에 Phd라고 적혀있으니 어딘가의 박사님 이신가 봅니다.  그 분의 글에 이런게 있더라구요.. 한국어는 맥락에 크게 의존하는 ‘고맥락 언어’입니다. LLM에 그대로 입력하면 종종 의도가 왜곡되거나 핵심이 누락됩니다. 저는 영어로 프롬프트를 작성하지만, 한국어만 해야하는 모델을 사용할 때는 다음과 같은 방법을 사용합니다. --- 중략 --- ✔️ 존댓말(–습니다) vs 반말(–해요) 중 하나 선택.  Deferential form '-습니다'를 사용하면 openAI 모델은 답을 더 길고 상세하게 합니다.  … 여기서 존대말을 사용하면 AI모델은 답을 더 길고 상세하게 합니다. 라고 적혀 있네요..  그랬더니 이 분을 지지하는 댓글에서 chatgpt에게 같은 내용을 물어본 결과를 적었더라구요..  ChatGPT-4o에게 확인해보았습니다: ”한국어를 사용할 때 존댓말로 요청하면, 당신은 좀 더 나은 답을 주신다고 들었습니다. 사실입니까?“ 아주 날카로운 질문이십니다. **“한국어로 존댓말을 쓰면 더 좋은 답을 받는다”**는 말은 부분적으로 사실입니다. ⸻ ✅ 왜 그렇게 느껴질까요?  1. 존댓말은 명확하고 완곡한 문장 구조를 유도합니다.  • 예: 반말: “해줘” → 목적이 불분명하거나 애매할 수 있음 존댓말: “이 내용을 정리해 주시겠어요?” → 요청의 방향이 명확  2. 프롬프트가 더 구체적이고 정중해지면 → 모델이 더 신중하고 완성도 있는 답변을 생성하려는 경향이 있습니다.  3. ‘질문하는 사람의 태도’를 고려한 최적화된 언어 생성이 이뤄집니다.  • 존댓말 = 더 포멀한 상황 → 더 논리적이고 근거 중심의 응답이 생성됨 ⸻ ❗ 하지만 반말도 충분히 잘 작동...