이런 AI스타트업에게 투자하시면 망합니다! AI스타트업과 투자자 모두 알아야 할 사례

영상 버전 : https://youtu.be/gOWztbtWXNM

이번에 도쿄대에서 졸업한 사람들이 모여서 만든 회사의 소개를 받아서 

일본은 이런 아이디어로 이렇게 투자 받는구나 하는 정보에 도움이 되었으면 해서 전해봅니다. 

투자는 두 군데 VC로부터 총 1.5억엔 정도 투자를 받았구요, 

아이템은 물리PC에 로컬LLM을 이용한 툴을 탑재한 모델입니다. 

로컬PC에는 Mac M3칩을 탑재한 모델로 AI용으로 특화된 물리적인 기능이 있지요. 

하지만 Ryzen AI 9HX 375가 오히려 LLM에 대해서는 Apple M3 Ultra보다 조금 더 성능이 좋은 경향이 있습니다. 

왜 Apple을 선택했는지는 모르지만, 

나름 비싼 하드웨어를 썼다는 것을 보여주고 싶은 것 아닐까 하네요. 

이렇게 맥 큐브형 PC에 자기네 로고를 넣고, 

OS기동후 풀 스크린으로 자기네의 툴만 표시되게 커스터마이징을 했네요. 

거기에 초기에는 기능 세 개가 들어있어서

회의를 리얼타임으로 텍스트화.. 참고로 일본에선 회의 내용을 문장으로 적는 것을 文字起こし라고 표현을 합니다. 

그리고 회의한 내용을 리얼타임으로 지정한 언어로 번역해서 문자로 남기는 기능, 

마지막으로 회의 내용을 기반으로 질문에 대답을 해주는 기능이라고 합니다. 

이 제품의 가장 큰 특징은 인터넷과 연결되어 있지 않은 상태에서 모든 기능을 사용할 수 있다

라고 하여 일본에선 기밀 정보에 대한 중요성 때문에 이 수요가 있을 것이라고 하네요. 

실제로 

제가 참여하고 있는 현장들에서도 

LLM을 회사업무에 써도 되는지에 대한 명확한 규정이 있어서

어떤 LLM은 안되고 어떤 LLM은 되고, 

된다 하더라도 기밀 정보를 넣으면 안되고, 

결과도 최종 검증자의 이름을 넣고 

무조건 복붙 금지 같은 최종 검수자의 책임하에 사내 공유 같은 룰이 있습니다. 

그리고 이번에 제안을 들었던 제품은 

498만엔에 연간 50만엔씩의 유지보수 비용이 필요하다 입니다. 

제조사의 담당자는 단순히 AI를 사용하는게 아니라 

한 명의 사원으로서 채용을 하는 개념이다. 

라고 하면서 이 큐브를 줄 때 대답하는 AI의 성향, 성격 등의 정보도 넣어서 

진짜로 어떤 특징을 가진 사람으로써 대할 수 있게 세팅하는 부분을 강조를 하더랍니다. 

그리고 여기에 필요한 기능이 있으면 커스텀으로 개발을 해줄 수 있고, 

추후에 여러 AI를 활용한 기능들이 제공이 될 것이라고도 합니다. 

또, DeepSeek등 오픈소스 LLM을 미리 로컬에 탑재를 했기 때문에

원하는 LLM을 선택해서 사용할 수도 있다고도 했죠. 

스타트업을 꿈꾸는 분들이나 이런 사업에 관심 있는 분들은 

지금까지의 설명으로 사업성 판단을 해 보시기 바랍니다. 

여러분은 이 기업에 투자를 하실 수 있나요?

만약 투자를 하신다면 얼마를 하실 수 있나요?

참고로 두 군데의 VC에서 엔젤투자로서 총 1.5억엔 투자가 완료된 상태 입니다. 

----

일단 제가 이 설명을 듣고 나서 

이 사람들에게 질문을 했습니다. 

요즘 AI Agent붐 때문에 실제로 무언가의 액션도 취해야 하는 경우가 있는데 MCP 지원이 되는지, 

된다면 얼마나 유저에게 쉽게 적용이 되는지요?

그들 대답은 

현재 Dify를 사용해서 GUI로 워크 플로를 관리할 수 있도록 제공하고 있다고 합니다. 

그런데 Dify는 오픈소스라서 기능 리스트에 없다고 합니다. 

Dify를 사용하려면 높은 기술력이 필요하기 때문에 

엔드유저가 이 큐브를 샀다고 해서 Dify를 바로 쓸 수는 없을 거라구요.. 

그래서 다시 물었죠. 

그럼 Dify를 사용할 수 있게 교육을 시켜주면 되지 않느냐?

그랬더니

자기네는 교육기관이 아니기 때문에 이 큐브를 어떻게 쓰던지 고객이 정할 것이고, 

그걸 못하는 고객까지 커버할 수는 없다고 대답을 하더랍니다. 

여기서 SI를 해오던 저로서는 이해를 못했지만, 

일본의 스타트업이라면 할 수 있는 생각이려나 싶긴 합니다. 

그래서 그럼 Dify를 탑재해서 주는거니 Dify매뉴얼을 주면 되지 않느냐?

라고 물어보니 

Dify는 오픈소스이기 때문에 고객이 알아서 찾아서 써야 한다.. 

여기서 또 의문이 들었죠.. 

보통 MySQL도 오픈소스이지만 이걸 이용한 서포트 기업들은 유상으로 서포트를 해줍니다. 

CentOS도 기본 사용은 무료지만 정식 서포트를 받는건 유료지요..

아무리 오픈소스라도 이런 유료모델이 사업모델도 될 수 있을텐데 굳이 그걸 버려가면서 

고객을 줄일 필요가 있을까?

뭐, 이건 기업의 방향성 문제니까 제가 뭐라고 할 수는 없어 이런 이야기는 넘어갔습니다. 

그 다음에 또 질문을 했습니다. 

초기 비용 치고 기능이 너무 적은데

앞으로 기능의 로드맵 같은 것은 확립 되어 있느냐?

그랬더니, 앞으로 기능은 많이 나올 것이지만 아직 로드맵은 나와있지 않다고 합니다. 

그럼 무엇을 기대하고 498만엔을 미리 선뜻 내줄 수가 있는걸까?

단순히 30만엔짜리 맥 제품에 앱 세 개 설치하고 498만엔으로 사줄 기업은 얼마나 있지?

요즘 구글 미트나 줌 같은 것도 받아쓰기 기능이 있고, 

받아쓰기 된 내용을 번역도 되고, 

Chatgpt앱을 쓰면 실시간으로 번역도 해주는데… 

번역된 세션에서 질문하면 질문도 대답해주고.. 

아직 시장 조사를 충분히 하지 않은 느낌이 너무 많이 들었고, 

제품에 대한 로드맵 없이 제품의 미래 가치를 

지금의 금액으로 이야기하려고 하는 듯 했네요.. 

아직 스타트업이기 때문에 라고 위안을 삼을 수는 있지만, 

스타트업 중에 성공하는 스타트업과 실패하는 스타트업 중에 

일부러 다른 "실패하는 스타트업과 같다" 고 위안을 할 필요가 있을까 합니다. 

마지막으로 물어본 것이 

Fine tune을 할 때 고객이 가지고 있는 학습대상 파일이 수천개에 달한다면 

그걸 초기에 어떻게 학습하느냐?

라는 질문에서 엔지니어가 실수를 하더라구요.. 

아직 파인튜닝을 해본 적 없는 것처럼

매번 질문을 할 때마다 파일을 지정해야 해서 

파일 선정은 최소로 해야 하고 

선택한 만큼의 딜레이는 감안해야 한다구요.. 

게다가 양이 많아지면 비용이 늘어날 것이라고 합니다. 

음? 로컬LLM은 오픈소스 아닌가? 왜 비용이 늘어나지?

게다가 Fine tune은 선학습을 시키는 개념인데 

질문할 때마다 던진다고?

이들은 현재 개발중인게 단순 LLM을 설치하고 API로 구동해서 

화면에 뿌리기만 한 것이란게 발각된거죠. 

파인튠은 미리 필요한 파일들을 읽어서 학습시키고 

질문은 단순하게 던져도 커스텀 학습된 결과에서 대답을 해주는 것입니다. 

하지만 openai의 api도 그렇고, 

처음 던질 때 역할이나 제약사항을 넣고 그 뒤에 질문을 던지는 식으로

Fine tune인 것 처럼 할 수가 있는데 바로 이런 방법을 쓴 거죠. 

마지막으로 이 제품을 도입하면 

동시에 몇 개의 미팅까지 처리 가능한지 물어봤습니다. 

그랬더니 다섯 개의 미팅이 가능하다고 하네요. 

그런데.. 여기서 더 깊이 물어보지 않았습니다. 

분위기가 이 질문에 대한 대답을 준비하지 못한 것 같더라구요.. 

그냥 회의실에 이 큐브를 놓고 

그 머신의 마이크로 입력 받아 처리를 하는 것을 전제로 한 것 같았습니다. 

그렇지만 대기업은 층마다 회의실이 여러개에 수십층이 있을 수 있는데, 

이걸 층마다 한 두대씩은 도입을 해야 하는가? 라는 것도 문제인데, 

마이크 하나로 여러개의 회의실을 어떻게 정보 입력 받지? 라는 것도 있습니다. 

즉, 네트워크로 연결해야 하는데… 로컬 상정의 머신이라면서?

로컬 네트워크를 열었다고 해도 

라우터 기준으로 떨어져 있을텐데 어디까지 구조를 생각한 것일까?

라는 의문이 꼬리에 꼬리를 물면서 점점 깊이 물어보기 겁이 나네요.. 

게다가 회의를 마치고 나서 복수 회의가 분리 되어 있는데, 

동시에 몇 명이 어떤 회의에 대해서 질문을 할 때 회의 구분도 가능한지?

라는 질문을 했는데, 이 대답에는 

동시 20명 정도가 회의마다 구분해서 대답이 가능합니다. 

라는 대답을 하면서 그 동안 질문에는 사례까지 보여주다가 

말로만 대답을 하네요.. 

KDDI본사만 직원이 27000명인데;; 

그들이 매 시간 수십개의 미팅을 하고 

그걸로 업무를 진행할 거 같은데.. 비용은??

하는 의문을 가지며 대충 감을 잡고 질문을 멈췄습니다.

메인으로 설명한 사람이 중국인이고, 기술책임자가 일본인 같은데, 

중국인인 설명한 사람이 설명 내내 거슬리는 말을 했는데요. 

제가 AI를 모르는 그냥 어딘가의 기술책임자인 줄 알더랍니다. 

"당신은 잘 모르겠지만"

이란 표현을 항상 써가면서 제 질문에 대답을 하더라구요...

문득 제가 한국에서 투자를 받기 위한 입장으로 투자 설명회를 했을 때 

어떤 VC가 이야기를 해주더랍니다. 

대부분의 VC는 기술을 모르기 때문에 어렵게 표현하면 

그 사람들을 무시하는 것과 같으니

초등학생도 알아먹을 표현으로 

비즈니스를 설명해야 투자를 받을 수 있다구요..

암튼.. 갑자기 이런 이야기가 떠오르네요..

그래도 왠지 무시당하는게 짜증나서

미팅의 거의 마지막에 이렇게 이야기를 했죠.

나는 대규모 현장에서 공개 LLM의 API를 끌어다 쓰기도 하고, 

GPTs를 직접 만들어 실제 프로젝트에서 사용도 하고, 

오픈소스 LLM의 테스트도 하고, 

LLM의 회사 도입을 위한 보안룰 검토도 하고 있고,

RPA 분야에서 MCP를 활용해서 개발도 해주고 있다고 이야기를 해줬죠.. 

그리고 내가 속한 이런 현장의 최전선에서 

이 제품을 어떻게 활용할 수 있는지를 고민해 봤는데, 

앞서 지적한 부분을 클리어할 필요가 있다고 하고 

회의를 종료했습니다. 

이 회의를 주선해 주셨던 모 회장님이 계신데, 

그 분이 투자 가능성이나 사업 지원 가능성을 보고 싶어서 

저를 불러서 기술 검증을 요청하신 것 같았는데요.. 

회의를 마치고 정리해 드리자 하시는 말씀이 

함께 협력할 부분이 없어 보인다… 

라는 결론이었네요.. 

많은 투자자 분들도 AI기업이면 일단 돈을 넣어보시는 분들이 많지만, 

AI로 돈을 만들려면 

그들이 만든 AI를 사용하는 기업이 

그 돈을 냈을 때 경제적인 효과가 나야 합니다. 

즉, 5만엔 넣었는데 50만엔의 인건비 절약 또는 

한 명당 업무 처리량의 개선 등이 보인다면

당연히 돈을 씁니다. 

하지만, 500만엔을 넣는다는 것은 거의 경력직 사원의 1년 연봉을 넣는건데

그걸로 사원이 할 수 있는 일 중에 극히 일부인 회의록 작성과 번역,

회의록을 기반으로 한 대답을 찾아주는 일 정도로 

500만엔을 넣을 수 있을까요?

한국은 2년 이내에 수익을 극적으로 끌어올릴 수 있는 이유와

경쟁사가 들어왔을 때 경쟁사를 누를 수 있는 방법까지 요구합니다. 

일본에 비해 엄청 허들이 높고 기술보다 비즈니스를 더욱 보고 있죠. 

이건 일본이라 가능했던 투자가 아니었을까 

조심스럽게 생각을 해 봅니다. 

이걸로 스타트업을 꿈꾸시는 분들에게도

VC가 어떤 입장에서 바라보고 있는지 

참고가 되셨으면 합니다. 

giip :: Control all Robots and Devices! Free inter-RPA orchestration tool! https://giipasp.azurewebsites.net/