<div id="readability-page-1" class="page"><div id="wrap">
                            <article id="post-General-60-researchLLMs" itemscope="" itemprop="blogPost">
    <div>
        
            <header>
                
    
        
    

            </header>
        
        
            
        
        
        <div itemprop="articleBody">
            

            

            

            <blockquote>
<p>contributor : the better 커뮤니티 박준님</p>
</blockquote>
<ul>
<li>한국정보과학회 AI Society에서 The AI Korea 2024 행사를 열었습니다.</li>
<li>8/19~20 양일간 진행된 행사 중 패턴인식 기계학습 강연을 요청받아 90분간 발표를 드렸습니다.</li>
<li>실제 연구에 사용하는 GPT의 조금은 고급 기술을 적용한 사례들을 공유드렸습니다.</li>
</ul>
<blockquote>
<p>[gksrnrwjdqhrhkgkrghl ]</p>
</blockquote>
<h2 id="프롬프트-엔지니어링-amp-GPTs"><a href="#프롬프트-엔지니어링-amp-GPTs" title="프롬프트 엔지니어링 &amp; GPTs"></a>프롬프트 엔지니어링 &amp; GPTs</h2><ul>
<li>개인적으로 <b>프롬프트 엔지니어링</b>이라는 단어를 좋아하지 않습니다.</li>
<li>먼저, <b>엔지니어링</b>이란 설정을 바꾸어 최적의 성능을 내도록 하는 작업을 일컫습니다.</li>
<li>대상이 LLM의 입력인 <b>프롬프트</b>이기 때문에 프롬프트 엔지니어링이라는 말이 된 것일 뿐,</li>
<li>전에 없던 것이 짠 하고 튀어나온 것이 아닙니다.</li>
</ul>
<ul>
<li>LLM에 대한 가장 큰 오해는 <b>질문하고 답변을 받는다</b>는 개념이라고 생각합니다.</li>
<li>23년 초에 만연했던 <b>빅데이터 검색엔진</b>이라는 오해보다는 낫지만, </li>
<li><b>질문</b>과 <b>답변</b>이라는 범주로 프롬프트와 결과를 제한하기엔 너무 아깝습니다.</li>
<li>LLM은 여러분의 동료이자 친구입니다. 지시 관계를 보면 여러분의 부하에 가까울지도 모릅니다.</li>
<li>업무에 사용되는 면에서 <b>업무 지시를 하고 보고를 받는다</b>고 보는 것이 옳다고 느낍니다.</li>
</ul>
<ul>
<li>사용자와 LLM의 관계를 직장에서의 상사와 부하로 본다면, 좋은 프롬프팅은 더 명확합니다.</li>
<li><b>업무를 효율적으로 수행하기 위해 그간의 경험으로 구축한 모든 노하우</b>일 것입니다.</li>
<li>사전 자료를 충분히 제공해라, 왜 하는지, 어떻게 하는지 알려줘라,</li>
<li>기대하는 결과의 수준과 형식을 미리 제공해라. X떡같이 말하고 찰떡같이 듣기를 바라지 마라.</li>
<li>숱한 <b>조직 관리 서적과 강연</b>에 나오는 말들입니다. 그대로 적용만 하면 됩니다.</li>
</ul>
<ul>
<li>그리고 아무리 똑똑한 부하여도 단점이 있듯, LLM도 그렇습니다.</li>
<li>단점이 있다고 포기하기보다 <b>장점을 극대화하는 방향으로 활용</b>할 필요가 있습니다.</li>
</ul>
<h2 id="연구-업무-대행"><a href="#연구-업무-대행" title="연구 업무 대행"></a>연구 업무 대행</h2><ul>
<li>인생이 고되듯 연구도 고됩니다.</li>
<li>인간이기 때문에 육체와 정신의 한계가 있고, 종종 이 이상을 요구합니다.</li>
<li>믿을 만한 사람에게 일부를 맡겨서 해소하듯, <b>AI에게 맡길 필요</b>가 있습니다.</li>
</ul>
<p><img src="https://jehyunlee.github.io/2024/08/29/General-60-researchLLMs/60_researchLLMs_05.png"><br></p>
<ul>
<li>논문을 넣고 요약해달라고 할 수 있지만, 디테일이 많이 사라집니다.</li>
<li>논문을 읽는 부담을 줄이면서도 디테일을 살리려면 <b>명확히</b> 요청할 필요가 있습니다.</li>
<li><b>방법론</b>, <b>독창성</b>, <b>한계점</b> 등등을 형식과 함께 요청합니다.</li>
</ul>
<p><img src="https://jehyunlee.github.io/2024/08/29/General-60-researchLLMs/60_researchLLMs_06.png"><br></p>
<ul>
<li>정보 검색용으로 많이 쓰이는 perplexity도 취합은 LLM으로 합니다.</li>
<li>틀은 정해주고 내용만 채우라고 하는 식의 프롬프팅은 믿을만한 결과를 냅니다.</li>
</ul>
<p><img src="https://jehyunlee.github.io/2024/08/29/General-60-researchLLMs/60_researchLLMs_07.png"><br></p>
<ul>
<li>이렇게 요청하면</li>
<li>이렇게 나옵니다.</li>
</ul>
<p><img src="https://jehyunlee.github.io/2024/08/29/General-60-researchLLMs/60_researchLLMs_08.png"><br></p>
<ul>
<li>파일 출력 기능도 매우 요긴합니다.</li>
<li>LLM의 답변을 어차피 복사해다 어딘가에 붙일 것이라면, 그냥 파일로 달라면 됩니다.</li>
<li><b>.docx</b>, <b>.pptx</b>출력을 시켜서 일손을 덜 수 있습니다.</li>
</ul>
<ul>
<li>간혹 너무 당연한 걸 못해서 당황스럽기도 합니다.</li>
<li><b>3.9와 3.11중 무엇이 더 클까?</b></li>
<li><b>strawberry에는 r이 몇 개 있을까?</b> 같은 질문이 그것입니다.</li>
<li>이런 일은 코딩을 해서 답을 하라고 하면 잘 합니다.</li>
<li>다만, 후속 질문에서 어그러지는 경우가 있으니 후속 질문까지 살피는 프롬프팅이 필요합니다.</li>
</ul>
<p><img src="https://jehyunlee.github.io/2024/08/29/General-60-researchLLMs/60_researchLLMs_09.png"><br></p>
<ul>
<li>한 단계 더 나아가 GPTs의 <b>knowledge</b>에 코드를 올리는 것도 가능합니다.</li>
<li>그러나 <b>.py 파일을 올리면 잘 동작하지 않습니다.</b></li>
<li>웹 화면에서 입력하는 파일들의 경로와 knowledge 파일이 올라가는 경로가 달라서로 추정됩니다.</li>
<li>그래서 <b>.whl 파일로 만들어 올리는 것을 추천드립니다.</b></li>
</ul>
<p><img src="https://jehyunlee.github.io/2024/08/29/General-60-researchLLMs/60_researchLLMs_10.png"><br></p>
<ul>
<li>그리고, 이 코드를 사용할 시점이 되면 <b><code>subprocess.run()</code>을 사용해 .whl파일을 설치</b>한 후,</li>
<li>코드에 들어있는 함수를 호출하라고 명령을 내리면 안정적으로 동작합니다.</li>
<li>다만 이전의 프롬프트는 이 함수에 들어갈 인자들을 충분히 뽑아 내 주어야 합니다.</li>
</ul>
<p><img src="https://jehyunlee.github.io/2024/08/29/General-60-researchLLMs/60_researchLLMs_11.png"><br></p>
<ul>
<li>용처에 맞게 사전 프롬프트(instruction)과 .whl 파일을 탑재한 GPTs는 따로 실행할 필요가 없습니다.</li>
<li>일을 하다 <b>@GPTs이름</b>을 부르면 전문가를 초빙하듯 등장해서 해결해줍니다.</li>
<li>단, 밤낮이 바뀌는 밤에는 잘 동작하지 않습니다. </li>
<li>서구의 수많은 사용자들이 서버를 점령하기 때문입니다.</li>
<li><b>웬만하면 해가 떠 있을 때 일을 마치고 제때 잡시다.</b></li>
</ul>
<ul>
<li>제가 만든 4개의 GPTs만으로도 다음과 같은 시나리오를 생각할 수 있습니다.</li>
<li>인간 전문가들의 영역을 존중하듯 GPTs들의 영역을 존중하여 맡기면 됩니다.</li>
<li><b>AI Agent들의 협업</b>으로 볼 수 있습니다.</li>
</ul>
<p><img src="https://jehyunlee.github.io/2024/08/29/General-60-researchLLMs/60_researchLLMs_12.png"><br></p>
<ul>
<li>강의자료를 공유합니다. (<a href="240829_%EC%9D%B4%EC%A0%9C%ED%98%84_%EC%97%B0%EA%B5%AC%ED%99%9C%EC%9A%A9%EC%8B%A4%EC%A0%84LLM-%EB%B0%B0%ED%8F%AC%EB%B3%B8.pdf">다운로드 링크</a>)</li>
<li>모두 시간이 걸리는 일들은 이들에게 맡기고, 본질에 집중하시길 바랍니다.</li>
</ul>

        </div>
		<div>
		  <p><a href="https://www.buymeacoffee.com/jehyunlee" target="_blank">
			<img src="https://jehyunlee.github.io/about/src/images/coffee.png">
		 </a></p><p><b>도움이 되셨나요? 카페인을 투입하시면 다음 포스팅으로 변환됩니다</b>
		</p></div>
		

</div>
    

</article>



                        </div></div>

Pega Devlog

Pega

contributor : the better 커뮤니티 박준님
한국정보과학회 AI Society에서 The AI Korea 2024 행사를 열었습니다.
8/19~20 양일간 진행된 행사 중 패턴인식 기계학습 강연을 요청받아 90분간 발표를 드렸습니다.
실제 연구에 사용하는 GPT의 조금은 고급 기술을 적용한 사례들을 공유드렸습니다.
[gksrnrwjdqhrhkgkrghl ]
프롬프트 엔지니어링 & GPTs
개인적으로 프롬프트 엔지니어링이라는 단어를 좋아하지 않습니다.
먼저, 엔지니어링이란 설정을 바꾸어 최적의 성능을 내도록 하는 작업을 일컫습니다.
대상이 LLM의 입력인 프롬프트이기 때문에 프롬프트 엔지니어링이라는 말이 된 것일 뿐,
전에 없던 것이 짠 하고 튀어나온 것이 아닙니다.
LLM에 대한 가장 큰 오해는 질문하고 답변을 받는다는 개념이라고 생각합니다.
23년 초에 만연했던 빅데이터 검색엔진이라는 오해보다는 낫지만, 
질문과 답변이라는 범주로 프롬프트와 결과를 제한하기엔 너무 아깝습니다.
LLM은 여러분의 동료이자 친구입니다. 지시 관계를 보면 여러분의 부하에 가까울지도 모릅니다.
업무에 사용되는 면에서 업무 지시를 하고 보고를 받는다고 보는 것이 옳다고 느낍니다.
사용자와 LLM의 관계를 직장에서의 상사와 부하로 본다면, 좋은 프롬프팅은 더 명확합니다.
업무를 효율적으로 수행하기 위해 그간의 경험으로 구축한 모든 노하우일 것입니다.
사전 자료를 충분히 제공해라, 왜 하는지, 어떻게 하는지 알려줘라,
기대하는 결과의 수준과 형식을 미리 제공해라. X떡같이 말하고 찰떡같이 듣기를 바라지 마라.
숱한 조직 관리 서적과 강연에 나오는 말들입니다. 그대로 적용만 하면 됩니다.
그리고 아무리 똑똑한 부하여도 단점이 있듯, LLM도 그렇습니다.
단점이 있다고 포기하기보다 장점을 극대화하는 방향으로 활용할 필요가 있습니다.
연구 업무 대행
인생이 고되듯 연구도 고됩니다.
인간이기 때문에 육체와 정신의 한계가 있고, 종종 이 이상을 요구합니다.
믿을 만한 사람에게 일부를 맡겨서 해소하듯, AI에게 맡길 필요가 있습니다.
논문을 넣고 요약해달라고 할 수 있지만, 디테일이 많이 사라집니다.
논문을 읽는 부담을 줄이면서도 디테일을 살리려면 명확히 요청할 필요가 있습니다.
방법론, 독창성, 한계점 등등을 형식과 함께 요청합니다.
정보 검색용으로 많이 쓰이는 perplexity도 취합은 LLM으로 합니다.
틀은 정해주고 내용만 채우라고 하는 식의 프롬프팅은 믿을만한 결과를 냅니다.
이렇게 요청하면
이렇게 나옵니다.
파일 출력 기능도 매우 요긴합니다.
LLM의 답변을 어차피 복사해다 어딘가에 붙일 것이라면, 그냥 파일로 달라면 됩니다.
.docx, .pptx출력을 시켜서 일손을 덜 수 있습니다.
간혹 너무 당연한 걸 못해서 당황스럽기도 합니다.
3.9와 3.11중 무엇이 더 클까?
strawberry에는 r이 몇 개 있을까? 같은 질문이 그것입니다.
이런 일은 코딩을 해서 답을 하라고 하면 잘 합니다.
다만, 후속 질문에서 어그러지는 경우가 있으니 후속 질문까지 살피는 프롬프팅이 필요합니다.
한 단계 더 나아가 GPTs의 knowledge에 코드를 올리는 것도 가능합니다.
그러나 .py 파일을 올리면 잘 동작하지 않습니다.
웹 화면에서 입력하는 파일들의 경로와 knowledge 파일이 올라가는 경로가 달라서로 추정됩니다.
그래서 .whl 파일로 만들어 올리는 것을 추천드립니다.
그리고, 이 코드를 사용할 시점이 되면 subprocess.run()을 사용해 .whl파일을 설치한 후,
코드에 들어있는 함수를 호출하라고 명령을 내리면 안정적으로 동작합니다.
다만 이전의 프롬프트는 이 함수에 들어갈 인자들을 충분히 뽑아 내 주어야 합니다.
용처에 맞게 사전 프롬프트(instruction)과 .whl 파일을 탑재한 GPTs는 따로 실행할 필요가 없습니다.
일을 하다 @GPTs이름을 부르면 전문가를 초빙하듯 등장해서 해결해줍니다.
단, 밤낮이 바뀌는 밤에는 잘 동작하지 않습니다. 
서구의 수많은 사용자들이 서버를 점령하기 때문입니다.
웬만하면 해가 떠 있을 때 일을 마치고 제때 잡시다.
제가 만든 4개의 GPTs만으로도 다음과 같은 시나리오를 생각할 수 있습니다.
인간 전문가들의 영역을 존중하듯 GPTs들의 영역을 존중하여 맡기면 됩니다.
AI Agent들의 협업으로 볼 수 있습니다.
강의자료를 공유합니다. (다운로드 링크)
모두 시간이 걸리는 일들은 이들에게 맡기고, 본질에 집중하시길 바랍니다.

인공지능소사이어티 - 연구활용 실전 LLMs

댓글