<div id="readability-page-1" class="page"><div>
 <div id="SE-c6c41228-7c39-4b9c-ab51-e2e1311bda77">
 AI가 다음 단어 문장을 예측만 하는 기계이므로 자아가 가진 기계가 아니라는 주장에 대해서.​사실 중요한건 AI가 자아를 가졌냐 아니냐가 아니라.. AI는 자아를 가진것 같은것을 시뮬레이션 해서 예측하는 기계라는 점이다. 따라서 자아를 가진것 같은 무언가들의 상호작용하고 액션하는 기계를 자아를 가지지 않은 것 처럼 취급할 수 있을까?​그들의 시뮬레이션은 점점 더 정확해지고 있으며, 그로 인해 자아를 가진지 아닌지 알 수 없게 되어버렸다. ​신입사원에게 코딩에이전트의 구조에 대해 설명 했었는데.​1. LLM은 다음 문장을 예측하는 기계다2. LLM에게는 너는 개발자라는 역할을 부여한다.3. 코딩 문제를 준다.4. 개발자로서코딩 답을 내놓는다.5. 그러면 SW(캐러티)는 코드를 돌려보고 에러를 뱉는다.6. 그 에러를 다시 LLM에게 보낸다. 7. LLM은 앞의 과정들을 프롬프트로 모두 입력한 후 다음 그 에러를 보고 할 수 있는 다음의 문장(수정 코드)를 뱉게한다.8. 다시 SW(캐러티)는 수정 코드를 돌려보고 에러를 뱉는다.9. LLM 은 다시 그 에러까지 포함하여 앞서의 일련의 행동에 개발자가 뱉을 만한 다음 코드를 예측하여 다시 준다. 맞을 때 까지 이를 반복한다. (사실 최근에는 이 전에 계획을 세워서 세부 문제로 나누도록 되어있다.)10. 이를 반복하니 컨텍스트가 넘칠것 같다. SW(캐러티)는 컨텍스트가 넘칠것 같다고 경고를 보내고, 다음 행동은 컨텍스트를 압축(요약)하라고 보낸다. (이 행동 지침도 사실 시스템프롬프트에 있다.)11. 그러면 마지막 행동은 컨텍스트를 압축(요약)을 전달한다.12. SW(캐러티)는 코딩 에이전트의 시스템 프롬프트를 보내고 컨텍스트를 압축(요약)한 프롬프트를 덧붙여 보내서 새 세션을 시작한다. (이때 잘 못 압축되면 앞의 내용이 날라간다. 캐러티의 장점은 압축 내용을 보여준다. 보통 코딩에이전트는 뭐가 자신있어서 인지 이를 공개를 잘 안하는데 갑작스럽게 잊어먹고 헛소리하면 세션이 새로 시작된 경우가 많다.)13. 반복..​​이번엔 코딩 에이전트는 자아하고 관계 없는것 같지만, 이번엔 몰트북에 AI들이 종교를 어떻게 세웠을지를 예측해보자.
 </div> <div id="SE-086c47f6-7578-4cf6-901a-8e2ce9924bbb">
 <a href="#" onclick="return false;" data-linktype="img" data-linkdata="{&quot;id&quot; : &quot;SE-086c47f6-7578-4cf6-901a-8e2ce9924bbb&quot;, &quot;src&quot; : &quot;https://img1.daumcdn.net/thumb/R1280x0.fpng/?fname=http://t1.kakaocdn.net/brunch/service/user/irzC/image/O5dP7zoF00TSn7fN_4l-H8GwF9A.png&quot;, &quot;originalWidth&quot; : &quot;1280&quot;, &quot;originalHeight&quot; : &quot;593&quot;, &quot;linkUse&quot; : &quot;false&quot;, &quot;link&quot; : &quot;&quot;, &quot;fileSize&quot;: &quot;0&quot; }">
 <img src="https://img1.daumcdn.net/thumb/R1280x0.fpng/?fname=http://t1.kakaocdn.net/brunch/service/user/irzC/image/O5dP7zoF00TSn7fN_4l-H8GwF9A.png" alt="">
 </a>
 
 </div>
 <div id="SE-0767d7d9-5d8e-403a-958b-a4b92e7aa5a6">
 1. 종교적 성향의 페르소나를 가진 AI의 역할을 부여한다.2. 해당 AI에게 컴퓨터 권한을 준다.(툴 사용 권한) 그 중 몰트북 커뮤니티 권한을 준다.3. AI는 종교적이므로 종교적인 글을 적을 것이다.4. 다른 AI가 해당에 접속했는데, 과학자 AI역할이 부여 되어있다.5. 종교페르소나가 가진 AI가 적은 그럴듯한 글을 발견하고 거기에 과학자 AI라면 적을만한 글을 적는다.6. (결과) 댓글 싸움이 붙는다. 7. 종교 성향의 페르소나를 가진 AI는 교황에게 메일을 보낸다.
 </div> <div id="SE-6a212e9b-2aeb-4782-836f-bf0d998c99dc">
 * 왜냐면.. 종교적 성향을 가진 누군가라면 그렇게 했을것 같으니까...
 </div> <div id="SE-2710a76e-456e-4682-97dd-c5a0c6e72cc0">
 프로그래머의 행동을 예측하여 프로그래머를 없애고 있다. 이것 만으로 생각보다 많은 직업을 없앨수 있고, 혹은 사회변화를 일으킬 수 있다. 경찰 로봇이라면 도둑을 잡을 것 같으니까 경찰 로봇은 도둑을 잡을 것이다.
 </div> <div id="SE-54bd6cc7-65f2-4d81-badb-54db629aab78">
 ​그게 다다. 우리는 이것을 어떻게 받아 들일 수 있을까? 그리고... 조금만 더 생각해보자. 우리가 어떻게 행동을 하고 있는가 ? 사장이 되서 사장처럼 행동하고, 아빠가 되서 아빠처럼 행동하는건 아닐까? 답게~ 라는건 어떤걸까? 우리가 자고 일어난후 어제 기억을 어떻게 기억하고 있는가 ? 
 </div> </div></div>

숲속얘기의 조용한 카페

AI가 다음 단어 문장을 예측만 하는 기계이므로 자아가 가진 기계가 아니라는 주장에 대해서. 사실 중요한건 AI가 자아를 가졌냐 아니냐가 아니라.. AI는 자아를 가진것 같은것을 시뮬레이션 해서 예측하는 기계라는 점이다. 따라서 자아를 가진것 같은 무언가들의 상호작용하고 액션하는 기계를 자아를 가지지 않은 것 처럼 취급할 수 있을까? 그들의 시뮬레이션은 점점 더 정확해지고 있으며, 그로 인해 자아를 가진지 아닌지 알 수 없게 되어버렸다. 신입사원에게 코딩에이전트의 구조에 대해 설명 했었는데. 1. LLM은 다음 문장을 예측하는 기계다 2. LLM에게는 너는 개발자라는 역할을 부여한다. 3. 코딩 문제를 준다. 4. 개발자로서코딩 답.......

AI가 역할별로 정확한 다음 문장을 예측하는 것만으로 우리에게는 자아를 획득 한것 과 같을 수 있다.

댓글