저희 회사 팔란티어와 협업 한다고 공식적으로 발표가 되었죠.
수만명 직원의 회사입니다.
우리 작업반 10명중 아무 관심 없습니다. 팔란티어가 뭔지도 모릅니다.
저도 자세한 것은 모릅니다. 팔란티어가 회사 내에 직원들을 파견하고 ai를 설치를 하겠죠.
그 ai는 엔트로픽의 서비스라 생각하고 있고 공장을 디지털 트원을 하는 것인지 무엇을 할 건지 모릅니다.
저도 크게 관심 없습니다.
엔트로픽의 매출과 수익은 거의 대부분 엔터프라이즈 고객으로 부터 나옵니다.
저희 회사가 일부이고 향후 모든 기업들은 ai를 회사내 설치하게 됩니다. 당연히 그리고 분명하게...
일반인들은 ai가 생활과 피부에 전혀 느낄 수 없지만 이미 ai가 지배하고 있다는 사실은 분명합니다.
여기서 토큰에 대해서 설명부터 해야 하지만 생략합니다. 모르면 편하게 데이터량이라 보시면 될 것 같습니다.
회사가 ai를 사용하는데 뭔가 효과를 보면 볼 수록 더 많이 사용하겠죠.
사용량은 점진적으로 우상향 할 것으로 당연 생각합니다. 회사의 모든 영역에서 ai가 사용 될 것입니다.
직원을 줄이면 줄일 수록 ai 사용량 증가와 함께 토큰은 비례해서 증가 합니다.
사람이 할 일을 ai가 대신 하게 되니 사람 하나 하나가 토큰이란 결론을 쉽게 도출 할 수 있습니다.
곧 내가 하는 일이 토큰이죠.
ai가 더 많은 일을 하게 될 것이 분명하고 토큰은 비례해서 증가합니다.
이제 무릅을 탁 쳐야 될 시간입니다.
사람 = 토큰
일 = 토큰
모든것 = 토큰
그리고 결론
토큰 = 메모리
메모리는 정확히 토큰의 양에 비례합니다.
메모리의 수요는 적당히가 없습니다.
절대적으로 X 100배 부족합니다.
저번에 방한 했던 openAi의 샘 알트먼이 한국에 요구 했던 반도체 웨이퍼의 규모가 정말 미친 수준으로 말했지만 사실은 100분의 1도 안됩니다.
젠슨황이 치킨 먹으로 왔을 때 그는 비로소 깨닫고 온 것이죠.
메모리를 연구하고 개발하는 사람도 작년까지는 정말로 몰랐습니다.
HBM의 아버지라 불리우는 카이스트 교수님도 작년 11월 까지 몰랐다고 하더군요.
ai산업은 메모리의 공급 Q에 달려 있습니다.
빅테크가 설비 투자를 줄인다고 하여도 메모리 수요는 줄지 않습니다.
투자를 반으로 줄이면 메모리를 절반밖에 구매 하지 않는데 무슨 소리 하느냐 하시겠죠.
토큰이 100이고 메모리가 100이면 균형을 이룹니다.
토큰이 200으로 증가하면 메모리도 200을 맞추어야 합니다.
투자를 줄이든지 말든지 알아서 하겠지만 대신에 ai 사용에 제한을 두게 됩니다.
이런 일이 실제로 발생되어 현재 진행형입니다.
잘 해 왔던 ai서비스에 일부 사용 제한을 갑자기 거는 이유는 메모리의 절대적인 양이 부족해서 고육지책으로 낸 방법입니다.
더 심해지면 ai가 느려지고 서비스는 중단됩니다.
결론은
토큰의 수요를 메모리가 영원히 따라 잡을 수 없습니다.
삼전이나 하닉 주주들은 참고하세요.
투자와 관련해서 그 어떤 것도 없습니다.