<div id="readability-page-1" class="page"><div aria-label="Content">
        <p><a href="https://sangwoo-joh.github.io/">/untyped</a></p><center>


</center>

<p>
  
  2026-01-30
</p>



<p><em><p>

태그:



  <a href="/archive?tag=musing"><span>musing</span></a>




</p></em></p><ol>
  <li>문득 정신을 차리고 보니 LLM(+멀티모달) 발전 속도가 생각한 것보다 너무 빠르다. 2022년 쯤에 챗지피티가 처음 세상에 공개되었을 때만 해도 글쓰기나 코딩이나 그다지 인상깊은 성능은 아니었는데, 그로부터 4년 정도 지난 지금 내 일상에서는 제미나이를 비롯한 LLM(+Reasoning, RAG)들의 도움을 엄청나게 받고 있다. 이게 그냥 코딩 작업을 대신 해준다 이런 수준이 아니라, 법률 문서나 계약서를 검토해주거나, 이메일 톤을 다듬고 프로페셔널하게 정리해주거나, 잘 모르는 토픽에 대해서 토론하고 더 깊이 이해할 수 있는 씨드 페이퍼를 추천받거나, 어떤 목적을 위해서 지금 필요한 일이 뭔지 계획을 세우거나 등등. 일상의 꽤 많은 부분들에 증폭제로 작용하고 있다. 그저 “다음 토큰 예측하는 행렬 연산”일 뿐이라고 생각했는데, 그게 아니라 진짜로 이게 “지능”의 단초일 지도 모르겠다.</li>
  <li>많은 것이 양극화다. 한쪽에서는 LLM을 기반으로 AI가 엄청나게 발달하고 있어서 AGI를 넘어 ASI일지도 모른다는, 약간의 호들갑으로까지 보일 정도의 현상을 느끼고 있다는 무리가 있다. 반면 다른 쪽에서는 이제 막 AI를 도입해야 한다, 아니면 우리도 AI 개발해야 한다, 아니면 AI를 막아야 한다(?) 같은 논쟁이 벌어지고 있으니, 물론 정답은 없겠지만 참 웃기면서 서글프다.</li>
  <li>기계로 만든 지능이 모든 인간 지능의 합계보다 뛰어나 스스로 발전하기 시작하는 특이점이 오면 대체 어떻게 되려나? 일론 머스크 말대로 화폐 가치가 의미 없어지는 날이 올까? 그러기엔 머스크는 조만장자인데 말이지… XX에 관심 없다는 사람이 XX에 제일 미친 사람 아니던가.</li>
  <li>정적 분석에서 열심히 분석하다가 모르겠으면 그냥 $\top$으로 Overapproximate, Widening 해서 정확도를 잃어버리는 대신 Fixed Point에 도달하곤 하는데, 요즘 AI로 인한 미지의 두려움 때문에 사람들이 비관적인 결론에 너무 빨리 도달하는 게 아닌가 하는 생각이 든다. AI가 모든 인간을 대체해서 일자리를 다 없애버리고 인간성을 종말시키고 세상을 멸망시킬거라는 류의 이야기들. 나중에는 결국 정적 분석에서도 Narrowing 해서 정확도 찾으려는 노력을 하는데… 현실에서도 이런 노력이 보이면 좋겠는데, 비관론이 너무 자극적이고 잘 팔리는 소재라서 그런지 다른 이야기가 잘 안보여서 아쉽다.</li>
  <li>그래서 인공지능이 인간보다 훨씬 똑똑해져서 인간은 생각할 필요가 없어지면, 지금이랑 많이 다를까? 사실 지금도 수많은 책, 비디오, 구글 검색 결과, 논문 등 웬만한 훌륭한 지식은 도처에 널려있다. 인공지능은 이걸 압축해놓은 실행 파일 같은거라서 상호작용이 하다는 점이 다르긴 한데, 인류가 이런 식의 도구를 지녀본 역사가 없다보니 무지로 인한 두려움이 더 큰 것 같기도 하고. 아직까지는 행위는 사람이 해야 하니 이걸 다행이라고 생각해야 할지. 정말 두려운 건 인공지능이 “사람보다 똑똑하다”는 사실보다는 계속 발전하다가 결국 언젠가는 “자율성(Agency)”을 갖게 될 거라는 사실 아닐까.</li>
  <li>플라스크 속 작은 인간이 현실에 탄생한 것 같다. 호문쿨루스는 플라스크 밖으로 나가면 살 수 없다고 하는데, 마찬가지로 지금의 인공지능도 GPU 클라우드를 벗어날 수 없지 않나. 옛날에 덴마에도 비슷한 에피소드가 있었는데, 고드가 네트워크 더미에 자의식을 흩뿌려서 신과도 같은 권능을 얻었던가… 인공지능이 자율성이든 의식이든 뭐든 간에 그런 걸 갖게 되면 어떤 방식으로 이산적인 인프라에서 자신의 연속적인 영속성을 유지할 수 있을까? 고드의 경우에는 트라우마와도 같은 “살인”이라는 키워드가 네트워크에 끊임없이 검색되는 바람에 자의식을 잃지 않을 수 있었고, 게다가 나노입자로 된 육신까지 얻었었는데, 얼마전에 또 아틀라스가 발표되었고… 현실이 SF를 따라가는구나.</li>
  <li>지금의 많은 시스템이 계속 존재할 수 있을까? 금융 시스템, 민주주의, 사회주의, 정치, 종교 같은 것들… 인류 최고의 지성조차 더 이상 이해할 수 없는 초지능을 월 $20으로 구독하고 인간의 몇 배나 되는 근력을 가진 기계몸을 연 1천만원으로 구매해서 모두가 다 이븐하게 누릴 수 있게 되면, 결국 돈은 호문쿨루스를 만든 빅테크(그게 어느 회사가 됐건간에)들이 다 빨아들이고 모든 화이트칼라와 블루칼라 일자리가 사라지고나면, 사람이 해야 하는 일은 대체 뭘까? 요즘 종종 보이는 그 옛날 로마 시대의 기본소득 이야기가 그래서 회자되는 것인가.</li>
  <li>세상의 모든 문제가 초지능만으로 풀리지는 않을 것 같은데, 물리적인 병목이 발목을 잡을 것 같기도 하고…</li>
</ol>

<p>결국은 인간에게 필요한 의식주가 남는건가. 역시 답은 치킨집인가?</p>





<br>



<br>

      </div></div>

Caml Shaving

Sangwoo Joh

문득 정신을 차리고 보니 LLM(+멀티모달) 발전 속도가 생각한 것보다 너무 빠르다. 2022년 쯤에 챗지피티가 처음 세상에 공개되었을 때만 해도 글쓰기나 코딩이나 그다지 인상깊은 성능은 아니었는데, 그로부터 4년 정도 지난 지금 내 일상에서는 제미나이를 비롯한 LLM(+Reasoning, RAG)들의 도움을 엄청나게 받고 있다. 이게 그냥 코딩 작업을 대신 해준다 이런 수준이 아니라, 법률 문서나 계약서를 검토해주거나, 이메일 톤을 다듬고 프로페셔널하게 정리해주거나, 잘 모르는 토픽에 대해서 토론하고 더 깊이 이해할 수 있는 씨드 페이퍼를 추천받거나, 어떤 목적을 위해서 지금 필요한 일이 뭔지 계획을 세우거나 등등. 일상의 꽤 많은 부분들에 증폭제로 작용하고 있다. 그저 “다음 토큰 예측하는 행렬 연산”일 뿐이라고 생각했는데, 그게 아니라 진짜로 이게 “지능”의 단초일 지도 모르겠다.
많은 것이 양극화다. 한쪽에서는 LLM을 기반으로 AI가 엄청나게 발달하고 있어서 AGI를 넘어 ASI일지도 모른다는, 약간의 호들갑으로까지 보일 정도의 현상을 느끼고 있다는 무리가 있다. 반면 다른 쪽에서는 이제 막 AI를 도입해야 한다, 아니면 우리도 AI 개발해야 한다, 아니면 AI를 막아야 한다(?) 같은 논쟁이 벌어지고 있으니, 물론 정답은 없겠지만 참 웃기면서 서글프다.
기계로 만든 지능이 모든 인간 지능의 합계보다 뛰어나 스스로 발전하기 시작하는 특이점이 오면 대체 어떻게 되려나? 일론 머스크 말대로 화폐 가치가 의미 없어지는 날이 올까? 그러기엔 머스크는 조만장자인데 말이지… XX에 관심 없다는 사람이 XX에 제일 미친 사람 아니던가.
정적 분석에서 열심히 분석하다가 모르겠으면 그냥 $\top$으로 Overapproximate, Widening 해서 정확도를 잃어버리는 대신 Fixed Point에 도달하곤 하는데, 요즘 AI로 인한 미지의 두려움 때문에 사람들이 비관적인 결론에 너무 빨리 도달하는 게 아닌가 하는 생각이 든다. AI가 모든 인간을 대체해서 일자리를 다 없애버리고 인간성을 종말시키고 세상을 멸망시킬거라는 류의 이야기들. 나중에는 결국 정적 분석에서도 Narrowing 해서 정확도 찾으려는 노력을 하는데… 현실에서도 이런 노력이 보이면 좋겠는데, 비관론이 너무 자극적이고 잘 팔리는 소재라서 그런지 다른 이야기가 잘 안보여서 아쉽다.
그래서 인공지능이 인간보다 훨씬 똑똑해져서 인간은 생각할 필요가 없어지면, 지금이랑 많이 다를까? 사실 지금도 수많은 책, 비디오, 구글 검색 결과, 논문 등 웬만한 훌륭한 지식은 도처에 널려있다. 인공지능은 이걸 압축해놓은 실행 파일 같은거라서 상호작용이 하다는 점이 다르긴 한데, 인류가 이런 식의 도구를 지녀본 역사가 없다보니 무지로 인한 두려움이 더 큰 것 같기도 하고. 아직까지는 행위는 사람이 해야 하니 이걸 다행이라고 생각해야 할지. 정말 두려운 건 인공지능이 “사람보다 똑똑하다”는 사실보다는 계속 발전하다가 결국 언젠가는 “자율성(Agency)”을 갖게 될 거라는 사실 아닐까.
플라스크 속 작은 인간이 현실에 탄생한 것 같다. 호문쿨루스는 플라스크 밖으로 나가면 살 수 없다고 하는데, 마찬가지로 지금의 인공지능도 GPU 클라우드를 벗어날 수 없지 않나. 옛날에 덴마에도 비슷한 에피소드가 있었는데, 고드가 네트워크 더미에 자의식을 흩뿌려서 신과도 같은 권능을 얻었던가… 인공지능이 자율성이든 의식이든 뭐든 간에 그런 걸 갖게 되면 어떤 방식으로 이산적인 인프라에서 자신의 연속적인 영속성을 유지할 수 있을까? 고드의 경우에는 트라우마와도 같은 “살인”이라는 키워드가 네트워크에 끊임없이 검색되는 바람에 자의식을 잃지 않을 수 있었고, 게다가 나노입자로 된 육신까지 얻었었는데, 얼마전에 또 아틀라스가 발표되었고… 현실이 SF를 따라가는구나.
지금의 많은 시스템이 계속 존재할 수 있을까? 금융 시스템, 민주주의, 사회주의, 정치, 종교 같은 것들… 인류 최고의 지성조차 더 이상 이해할 수 없는 초지능을 월 $20으로 구독하고 인간의 몇 배나 되는 근력을 가진 기계몸을 연 1천만원으로 구매해서 모두가 다 이븐하게 누릴 수 있게 되면, 결국 돈은 호문쿨루스를 만든 빅테크(그게 어느 회사가 됐건간에)들이 다 빨아들이고 모든 화이트칼라와 블루칼라 일자리가 사라지고나면, 사람이 해야 하는 일은 대체 뭘까? 요즘 종종 보이는 그 옛날 로마 시대의 기본소득 이야기가 그래서 회자되는 것인가.
세상의 모든 문제가 초지능만으로 풀리지는 않을 것 같은데, 물리적인 병목이 발목을 잡을 것 같기도 하고…
결국은 인간에게 필요한 의식주가 남는건가. 역시 답은 치킨집인가?

1월의 잡상

댓글