Talk Lowy(kr)

영상 버전 :  https://youtu.be/gOWztbtWXNM 이번에 도쿄대에서 졸업한 사람들이 모여서 만든 회사의 소개를 받아서  일본은 이런 아이디어로 이렇게 투자 받는구나 하는 정보에 도움이 되었으면 해서 전해봅니다.  투자는 두 군데 VC로부터 총 1.5억엔 정도 투자를 받았구요,  아이템은 물리PC에 로컬LLM을 이용한 툴을 탑재한 모델입니다.  로컬PC에는 Mac M3칩을 탑재한 모델로 AI용으로 특화된 물리적인 기능이 있지요.  하지만 Ryzen AI 9HX 375가 오히려 LLM에 대해서는 Apple M3 Ultra보다 조금 더 성능이 좋은 경향이 있습니다.  왜 Apple을 선택했는지는 모르지만,  나름 비싼 하드웨어를 썼다는 것을 보여주고 싶은 것 아닐까 하네요.  이렇게 맥 큐브형 PC에 자기네 로고를 넣고,  OS기동후 풀 스크린으로 자기네의 툴만 표시되게 커스터마이징을 했네요.  거기에 초기에는 기능 세 개가 들어있어서 회의를 리얼타임으로 텍스트화.. 참고로 일본에선 회의 내용을 문장으로 적는 것을 文字起こし라고 표현을 합니다.  그리고 회의한 내용을 리얼타임으로 지정한 언어로 번역해서 문자로 남기는 기능,  마지막으로 회의 내용을 기반으로 질문에 대답을 해주는 기능이라고 합니다.  이 제품의 가장 큰 특징은 인터넷과 연결되어 있지 않은 상태에서 모든 기능을 사용할 수 있다 라고 하여 일본에선 기밀 정보에 대한 중요성 때문에 이 수요가 있을 것이라고 하네요.  실제로  제가 참여하고 있는 현장들에서도  LLM을 회사업무에 써도 되는지에 대한 명확한 규정이 있어서 어떤 LLM은 안되고 어떤 LLM은 되고,  된다 하더라도 기밀 정보를 넣으면 안되고,  결과도 최종 검증자의 이름을 넣고  무조건 복붙 금지 같은 최종 검수자의 책임하에 사내 공유 같은 룰이 있습니...

영상버전 :  https://youtu.be/rLwhVUIXaQU 어디선가 기사가 있어서 읽다가 코멘트를 단 게 있습니다.  프롬프트 엔지니어링으로 인터넷 강의를 하시는 분 같은데요..  이름에 Phd라고 적혀있으니 어딘가의 박사님 이신가 봅니다.  그 분의 글에 이런게 있더라구요.. 한국어는 맥락에 크게 의존하는 ‘고맥락 언어’입니다. LLM에 그대로 입력하면 종종 의도가 왜곡되거나 핵심이 누락됩니다. 저는 영어로 프롬프트를 작성하지만, 한국어만 해야하는 모델을 사용할 때는 다음과 같은 방법을 사용합니다. --- 중략 --- ✔️ 존댓말(–습니다) vs 반말(–해요) 중 하나 선택.  Deferential form '-습니다'를 사용하면 openAI 모델은 답을 더 길고 상세하게 합니다.  … 여기서 존대말을 사용하면 AI모델은 답을 더 길고 상세하게 합니다. 라고 적혀 있네요..  그랬더니 이 분을 지지하는 댓글에서 chatgpt에게 같은 내용을 물어본 결과를 적었더라구요..  ChatGPT-4o에게 확인해보았습니다: ”한국어를 사용할 때 존댓말로 요청하면, 당신은 좀 더 나은 답을 주신다고 들었습니다. 사실입니까?“ 아주 날카로운 질문이십니다. **“한국어로 존댓말을 쓰면 더 좋은 답을 받는다”**는 말은 부분적으로 사실입니다. ⸻ ✅ 왜 그렇게 느껴질까요?  1. 존댓말은 명확하고 완곡한 문장 구조를 유도합니다.  • 예: 반말: “해줘” → 목적이 불분명하거나 애매할 수 있음 존댓말: “이 내용을 정리해 주시겠어요?” → 요청의 방향이 명확  2. 프롬프트가 더 구체적이고 정중해지면 → 모델이 더 신중하고 완성도 있는 답변을 생성하려는 경향이 있습니다.  3. ‘질문하는 사람의 태도’를 고려한 최적화된 언어 생성이 이뤄집니다.  • 존댓말 = 더 포멀한 상황 → 더 논리적이고 근거 중심의 응답이 생성됨 ⸻ ❗ 하지만 반말도 충분히 잘 작동...

영상버전 :  https://youtu.be/kThkH7FUz1A MCP를 준비하기 위한 툴을 만들려는데 cursor라는 툴이 좋다고 해서 툴을 받았죠. Cursor는 여러분들 쓰고 계신가요?  저역시 나오자마자 쓰는 성격이라기 보다,  이걸 어떻게 쓰면 좋을까를 조사하다가  용도가 생각나면 비로소 쓰기 떄문에 그렇게 빠른 편은 아닙니다.  그래도 요즘은 왜 이제 쓰기 시작했지? 하고 후회하는 경우가 많다보니 조금은 빨리 손을 대려고는 합니다.  그래도 워낙 귀찮은걸 싫어하다보니 이제야 손을 대기 시작하네요.. Vscode를 주로 쓰기 때문에 Vscode 익스텐션을 찾아봤는데...  다운로드 수가 별로 많아보이지 않고 공식 익스텐션이 아닌 관계로 공식 툴로 테스트를 하기로 했습니다 Cursor.com 이란 사이트에 들어가서 직접 다운받아 설치해보니 vscode 랑 거의 비슷해서 익히는데 시간은 거의 안걸렸는데요 가장 좋았던것이 오른쪽 화면 에서 텍스트를 입력한 대로 코드가 써 지는 것이었죠 이것저것 해보는데처음에는 생각보다 좋은 품질로 코드가 작성되었네요..  mcp 환경을 만들어달라고 했었는데 잘 만들어주더라구요. 여기까지는 많은 콘텐츠에서 cursor의 대단함을 알려주기 위해서 보여주는 내용들과 별 차이가 없을 겁니다.  하지만 여기저기 봐도 실제 프로젝트에서 쓰고 있는 내용을 못찾았구요,  실제로 써본 사람들도 자꾸 코드가 바뀌기 때문에 아직은 아니라는 이야기를 하시더라구요..  이 사람들이 입을 모아 하는 말이 진실인지 알아보기 위해 실제 프로젝트에 적용해 보았습니다.  아마 실제로 프로젝트에서 사용한 내용을 보여준 사례는 이번이 처음 아닐까 싶습니다.  지금 현장에서는 리더가 python을 좋아했기때문에  난 python을 잘 모르지만 python 코드로 작성하기로 했습니다. python 2.5에서 3.0으로 넘어가는 과도기에 엄...

영상버전 :  https://youtu.be/h9mVZ6MHQ4k #생성형AI 가 아무리 발전해도 그걸 쓰는 사람의 능력 이상은 끌어낼 수 없다.  요즘 이런 이야기를 하시는 분들이 늘고 있습니다.  저 역시 공감하고 있고, 어제 그 공감이 또 확신이 되었네요.  신규 고객의 환경은 #proxmox 로 #kubernetes 를 관리하는 환경인데요. kubernetes가 원래 #docker #container 관리를 편하게 해주는 툴 이잖아요? 그런데 kubernetes를 바로 안쓰고 다시 proxmox라는걸 이용해서 #가상환경 까지 통합관리를 하더라구요..  즉, #VMWare + Kubernetes 랄까요? Kubetnetes를 그냥 쓰면 어딘가 docker 이미지를 디플로이 할 수 있는 환경을 손수 준비를 해야 하지만, proxmox에서 설정하면 자동으로 VM과 docker 이미지를 같이 디플로이 할 수 있다.. 인데요..  어떻게 보면 참 편리한 도구 같잖아요? 하지만, 역으로 이게 더 관리가 어렵네요.  이유는 VM을 위한 환경 변수도 다 설정해야 하고,  VM이 설치 된 뒤의 Docker이미지 관련 환경 변수도 다 설정하고 해야 하니 어짜피 한 화면에서 하느냐 서너화면에서 하느냐 차이 밖에 없더라구요.. 너무 복잡하게 설정되어 있어서, 이걸로 서비스를 하나 만들었는데 신규 고객용으로 디플로이 하는거 자체가 엄청난 수작업 해야하는 상황입니다. 이 이야기는 관리포인트가 더 많아서 장애에 대한 대처 지식이 더욱 필요한 것이지요.   그런데 일이 터져 버렸습니다.  인수인계를 받자마자 일 주일도 안되어 서비스가 떨어졌습니다.  인계를 해준 타이 개발자들은 나몰라라 하고 인계후 연락을 끊어버렸구요..  이 원인을 찾기 위해 #chatgpt 를 사용해서 에러 메시지와 그에 따른 원인을 묻고 그 원인처럼 보이는 것을 하나씩 찾아서 제거해 갔죠....

영상버전 :  https://youtu.be/zFXmIoSQU5Q 요즘 핫한 이슈니까 좀 얻어타볼께요..  제가 좋아하는 안될공학 이란 곳에서 공식 문서나  기타 정보를 베이스로 신뢰성있고 깊이 있는 정보를 다뤄주고 있어서  그 곳을 참고하시면 왜 DeepSeek가 생각보다 부풀려 있는지를 잘 이야기 해주고 있습니다.  거기까지 가서 보기 귀찮으신 분들께 요약을 해드리자면 DeepSeek는 결고 학습 비용이 싸지 않습니다.  이건 DeepSeek의 공식 문서에서도 나와 있는데요,  거의 1/10의 비용을 들였다고 하는 부분만 기사화가 되어서  다들 그런줄 아시는데,  필요한 전제 학습은 모두 끝낸 뒤 마지막 테스트 비용이 1/10이라서 전제 학습에 들어간 비용은 포함되지 않았다는 이야기 입니다.  즉, 그게 100배 들어갔는지 알 방법이 없는거죠..  두 번쨰, 오픈소스라고 했는데,  AI개발하시는 분들은 다들 아시겠지만,  AI는 이미 Python의 pytorch나 tensorflow 모듈을 설치하고  거기서 호출하는게 다 입니다.  즉, 모든 알고리즘은 1950년대에 이론이 완성되었구요,  그 알고리즘들의 조합을 이용한 여러가지 방법론이  클라우드 시대의 분산 컴퓨팅 파워를 활용해서  나오기 시작한거죠.  그 조합 중에 Neural Network가 있는거구요,  Neural Network의 조합 개념을 활용하여  알고리즘 조합 차이로 DNN과 CNN, SNN이 있는 겁니다. 그 중 DNN을 활용한 것 중에   transformer라는 방법론이 있는거구요,  이번 deepseek의 오픈 소스를 보시면 아시는 분들은 아시겠지만,  Pytorch의 transformer의 모듈을 그냥 갖다 쓴게 아니라 어짜피 transformer도 여러가지 알고...

영상버전 :  https://youtu.be/jb9yZ_3r78Q 눈 떠보니 후진국?…한국 AI 핵심기술 '0'｜지금 이 뉴스  참 난감한 기사가 자주 올라오고 있죠.  이러다 한국 망하는 거 아녀?  또는 여러 ai반도체 기업이 나왔는데 뭔소리 하는겨?  라던가..  전 이 기사도 맞다고 생각합니다.  단지 이 기사는 인기몰이용 기사라서 더 자극적으로 쓰는 것이구요,  제 콘텐츠를 보시면 제가 누누히 강조하는  한국인의 강점이 있잖아요?  이론은 개뿔도 모르면서 엄청난 사용자들의 나라…  김연아씨는 피겨스케이트를 만들 줄 모릅니다.  임요한 선수나 페이크 선수는 게임 개발할 줄 모릅니다(맞죠?)  하지만 세계에서 2위와의 격차를  한없이 벌리고 있는 선수입니다.  이 조그맣고 사람 수가 적은 땅덩어리에   금메달 보유자는 왜이렇게 많을까요?  세계 1 위는 왜이렇게 많을까요?  한국은 세계적인 기초과학이나 원천기술은 0에 가까우나  (물론 세계 1위 원천기술도 있습니다.)  누군가 발표한 기술의 활용력은 세계1위를 많이 내놓고 있죠.    이유는 원천기술은 엄청난 투자비가 필요하면서도  실적이 쉽사리 눈에 보이지 않는 영역이지만 응용기술은 적은 비용으로 쉽게 결과가 보이고,  가장 중요한 것은 상상력만 풍부하다면 전혀 다른 사용법으로 사용할 수도 있지요..  개발자도 그렇게 쓸지 몰랐다면서 혀를 내두르는 모습이 한국인들의 활용 사례에서 많이 보이죠..  그리고 혼자서 눈에 띌 수 있는 분야는  한국인이 참 많이 보입니다. 협력을 거부하고 단기 실적만을 좇는  한국인의 기질이려나요.. 때문에 세계 최하위의 분야도 엄청 많지만, 세계적으로 돋보일 부분 중에  한국인이 잘하는걸 빨리 찾는 것이 좋다고 ...

영상버전 :  https://youtu.be/iTmkJ2iWJuU 지금 프로젝트에서 개발자들이 프로시저를 만들다보니  개발자의 의식의 흐름대로 데이터 처리를 만들다보니 커서를 이용해서 테이블 변수에 넣고  그걸.  변수로 다른 테이블에서 조회하는 식으로 짜놨네요..  튜닝할 때 항상 하는 이야기 이죠.. Trigger와 커서는 절대 쓰지 말라구요..  이것처럼 속도를 저하시키고 락을 유발 시키는 장치는 없거든요..   트리거는 트리거링 포인트가 되었을 때 대상 테이블을 락을 건 뒤에 트리거 처리를 하고 나서 락을 해제 하기 때문에 아무리 빨리 끝나도 동시에 들어오는 쿼리에 따라서는 데드락에 빠질 가능성도 있습니다.   마찬가지로 커서 역시 테이블을 열고 커서를 만들어 처리하기 때문에 그 모든 처리가 끝날 때까지 락이 걸린 상태가 됩니다. 데이터가 변동하면 안되니까요..  그래서 트리거와 커서를 사용하면 기본 서너배는 느려집니다.  커서랑 트리거만 없어도 50만명 받을 서비스가 15만명도 못받게 되는거죠.. 경우에 따라서는 수백배 느리게 짤 수도 있는게 커서와 트리거 입니다. 그냥 서비스를 떨구든 말든 자기 편한대로 만들겠다는 생각이 있지 않는한 커서는 피하셔야 합니다.   개발자들이 커서를 많이 이용하는 이유는 커서를 이용해서 만들면 복잡한 처리를 할 때 별로 생각하지 않고 개발 코드처럼 만들어도 가능하기 때문이죠  이번 쿼리도 커서를 사용해서 아주 길게 만들어놨네요..   한 줄 읽어서 상태에 따라서 데이터를 매핑해서 테이블 변수에 넣고를 쭈욱 한 뒤에  그 테이블 변수를 다시 읽어서 다른 테이블의 값을 가져오는데..   튜닝을 잘하려면 이 모든 데이터가 머리속에 연결구조를 그려서   하나의 비정규화 된 배열을 만들 수 있어야 합니다.   매번 이야...

영상버전 :  https://youtu.be/tb-Ie31qWhA 요즘 들어 외국 취업을 찾는 사람들을 좀더 보게 되어서  이젠 급여보다 미래를 위해 사는 사람들이 많아지겠구나 했는데..  그게 아닌가 보네요..  한국에서 방송된 시사 방송을 몇 개를 보았는데 좀 심각한가 봅니다.  2024년 R&D 예산이 4.6조원 삭감..  이걸로 국가 예산에 의존하는 기초과학 연구원은 강제 계약 종료되고,  그걸 틈타 한국에선 상상할 수 없는 금액에 중국에서 데려가고 있죠.  이걸 중국으로 갈 수 밖에 없는 사람 탓을 할 수 있을까 싶네요.  더 연구를 하고 싶지만 R&D비용만으로 급여를 받는 연구소에서  국가가 급여를 주지 않으면서 딴데 못가게 하는건 말도 안되죠.  혹자는 반도체 패권싸움을 3차 세계 대전이라고 하고 있습니다.  반도체 기술 하나만으로 국력이 차이나고 있죠..  중국은 2020년에 글로벌 R&D 1000대 기업에 194개나 올라갔지만 한국은 27개 뿐이라네요.  중국과 싱가폴은 일본 실력자들을 경쟁적으로 유치하고 있습니다.  싱가폴은 일본에서 영입한 의료연구자에게 판매금액의 몇 %를 연구진에게 돌려준다고 제안하고 일본 연구진을 끌어갔죠.  그걸로 전염병이 크게 유행했을 때 엄청난 수의 약을 싱가폴에서 판매를 하여  연구자에게만 수천억이 배당 되기도 했습니다.  이젠 한 명의 연구원이 하나의 기업보다 큰 가치를 만들어내고 있습니다.  그 때문에 SK하이닉스에서 미국 마이크론사로 이적하는 한 명 때문에  이적을 못하게 재판소에서 막기도 하는 사태가 일어나고 있죠.  여기서 뭔가 느끼는게 없나요?  해외에선 치열하게 타국에 인재를 뺏기지 않으려고 많은 지원을 해주고,  다른 나라에선 엄청난 조건으로 뺏어가려 합니다.  제가 술...

영상버전 :  https://youtu.be/IBlmUkDEGAw 제가 하는 일을 좀더 구체적으로 적어볼까 해서 시작해 봅니다.  지난 번에 월 100만엔 짜리 안건 소개 했잖아요? 그걸 하기로 해서 도대체 100만엔 짜리 안건은 뭘하는건지 구체적으로 보여드릴까 해서 시작해 봅니다.  우선 고객이 현재 상태를 제공해 줬습니다.  인도 개발팀에서 개발을 하고 있구요, 고객은 일본의 CAC라는 업체 입니다.  간단한 서비스 개념을 설명드리자면,  콜센터 같은데에서 고객들과 상담을 하는 상담사의 목소리, 떨림, 톤 등을 기반으로 감정의 움직임을 PBX에서부터 리얼타임으로 캐치를 합니다.  그리고 캐치하여 분석한 데이터를 기반으로 상담사의 심리적 압박을 수치로 나타내고,  그 수치가 일정 이상 벗어나면 긴급 대응반이 통화를 가로채서 압박을 하고 있는 고객을 상대하고 상담사의 정신케어를 해줄 수 있도록 도와주는 서비스 입니다.  일본에선 이미 6000개 이상 기업이 채용해서 쓰고 있는데,  이유는 한국에서도 비슷할 것 같지만 일본에선 상담사는 모두 계약직 또는 파견 업체에서 온 파견직입니다. 때문에 애사심 같은것은 있을 수 없기 때문에 상담사가 지쳐서 관둬 버리면 그만큼 원청사도 손해지만, 파견회사도 이 현장에 넣어봤자 사람들이 망가져서 안되겠다 하고 파견회사에서도 점점 사람을 넣지 않지요.  때문에 너무 높지 않은 가격에 좋은 인재를 파견업체에 요청하기 위해서는 파견된 사람의 케어할 준비가 얼마나 잘 되어있는지를 보여주어야 합니다.  그래서 이러한 비즈니스도 일본에선 잘 될 수 밖에 없지요.  여기서 제가 할 일은 개발자들에게 어떠한 구성으로 가는 것이 좋은지 정리를 해주고 개발자들과 협업을 해서 가장 적합한 구조로 대규모 처리가 가능한 구성을 만들 수 있도록 도와주는 것 입니다.  그런데 미션은 150세션까지 커버 가능한 시스템... 이라서 굳...

영상 버전 :  https://youtu.be/4jENz8nBYZE 많은 분들이 상류 공정에 대한 안건 영업 미팅에 대해서 궁금해 하실 것 같아서  실전 안건 미팅이 있어서 소개를 해볼까 합니다.  물론 이것역시 SES이기 때문에 사람 파견이지  청부 안건은 아닙니다.  그래도 전 청부든 SES든 동일한 자세로 진행을 합니다.  안건 미팅이 있으면 가장 중요한 것은  고객이 준 정보만으로 얼마나 고객의 페인포인트를 아느냐 입니다.  하류공정이야 그 동안 경험한 것으로  시키는대로 하면 되니까  자신이 뭘 경험했는지에 대한 어필만 하면 됩니다.  하지만 상류공정은  단순히 자기 경험만 어필하면 고객은  개개인의 어필을 바탕으로 자신들의 페인포인트를 커버할 수 있는지를 찾아야 하므로,  많은 고민을 하게 됩니다.  여기서 저의 영업 포인트인 사전 조사가 있습니다.  일단 안건을 보겠습니다  영업회사에서 준 내용입니다.  클라우드 cti와 상대 서버간의 데이터 연계 프로젝트에서 udp와 tcp의 트랜스포트계 지식이 있으면 된다는 이야기 뿐인 아주 심플한 안건입니다.  단가는 100~110만엔 이죠.  여기서 여러분이 상류 공정 사람이라면 어떤 준비를 하실것인가요?  제가 제일 먼저 하는 것은 경력 기술서의 수정입니다.  네트워크 관련 이슈 해결 위주 경험으로 수정을 하는 것이지만,  이번에는 영업 담당자에게 이 안건은 데이터 전송의 병목 해결 안건 같으니 진행해 달라고 했습니다.  보통 UDP와 TCP지식에 대해서 물어보는 것이라면 대량 전송을 위해서 TCP를 쓰려니 CRC처리 때문에 느리고 UDP를 쓰려니 패킷 로스가 생기는게 대부분이죠.  그러면 고객의 페인포인트는 패킷로스를 막고 고속 전송을,  그리고 보안 통신을 하고 싶다는 이슈일...

영상버전 :  https://youtu.be/yuVUl4X1NS8 유튜브로 영상을 만든다는 것에 너무 돈만 생각하고 있는 것은 아닌가요?  예전에도 자료를 찾다가 봤는데.. . 성공의 의미에 대해서 여러 나라의 불특정 다수에게 질문을 했다고 합니다.  그 중에 성공을 재력이라고 생각한 사람이 가장 많은 나라가 대만이었고,  2위가 한국이었다는 기사를 접한 적이 있는데..  요즘 한국의 뉴스나 여러 정보들을 보면  돈 때문에 더욱더 살벌해지는 사회가 되어 가는 것 같습니다.  돈은 많으면 많을 수록 좋은 것은 저도 마찬가지 입니다.  하지만, 이 이야기는 돈이 최우선이 된다는 이야기가 아니라,  여러가지 면을 고려하여 나의 미래나 인간관계 등등을 고려해서  오랫동안 살면서 다른 사람들을 해하지 않고,  욕먹지 않고도 벌 수 있는 최대한을 뜻합니다.  뭐, 유튜브에 목매다는게 뭐가 남을 안좋게 하느냐?  라고 질문하시는 분들이 꼭 계시겠지요..  잘 보시면 여러 문제들이 불거져 나오는 게 보이시죠? 그런 문제가 된 유투버들은 처음부터 그런 문제를 일으켰을까요?  과도한 유저모으기 집착에서 일어난 거짓들 아닌가요?  게다가 얼마전 과학 유튜브 등의 복사를 공공연하게 해도 된다고 권유하는 채널도 생겼었죠.  그건 원본을 가진 작자에게 큰 피해를 주는 것 아닌가요?  결국 나만 잘되면 다른 사람들은 피해를 봐도 된다는 생각에서 오는 것이겠지요.  서론이 너무 길었죠?  이 콘텐츠의 대상은 영어를 엄청 잘하시고 책을 좋아하면 잡학이 많으신 제 지인을 위해서 올리는 콘텐츠 제작 매뉴얼입니다.  전제조건은, 잡학이 많아서 자신만의 꿀팁을 메모 대신으로 만드는 것, 그리고 비 IT 레벨에서도 쉽게 만들 수 있는 방법을 정리합니다.  우선 유튜브 채널을 만드셔야지요.  유튜브 ...