<div id="readability-page-1" class="page"><div id="SE-c010c80c-b3f6-4a79-9e44-1c92807d86b0">
                                    <p id="SE-ccb04fd4-d4e4-4222-a134-a9ab790c464b"><span id="SE-2da0ed81-ba0b-4eab-9754-6fb128664e6f">안녕하세요 멍개입니다.</span></p><p id="SE-16039922-6818-4f4b-bdab-34d79789b2d7"><span id="SE-c8d830e5-1af9-4eaf-85ac-913e6d39fc0d">​</span></p><p id="SE-b0c7282c-aaf8-4856-9a77-ec0bf63b6b59"><span id="SE-09fc7660-05cf-411d-bedb-8f94754a0496">지난시간에 MCP Client를 구현함으로써 MCP Host, MCP Client, MCP Server가 어떤 관계이며 어떻게 동작하는지 알아보았습니다.</span></p><p id="SE-e9e2c388-812a-4dae-b846-7b0fbd93fbae"><span id="SE-5981d41a-e45b-47ea-830e-d3aaff1937e5">​</span></p>
                            </div><div id="SE-706f28e2-9665-46d1-91c9-9edf508dd102">
                                    <p id="SE-74efec2d-ff63-4057-b275-29dbd48d80de"><span id="SE-4fe81285-e865-4d2d-9c6c-1fa389fdf60b">MCP Client만 보면 기존의 서버와 클라이언트와 차이점이 없습니다. HOST는 사용자에게 인터페이스를 제공하는 역할을 하며 LLM 모델로 하여금 쿼리를 분석하여 어떤 Client의 tools을 호출할지와 tools을 호출하기 위한 arguments를 만들어줍니다.</span></p><p id="SE-490b7183-c14d-46fc-91d2-5302dce7c65a"><span id="SE-617e2651-d25e-4d80-aafc-df35b65d6434">​</span></p><p id="SE-94d0d660-de2b-4315-89bc-3ecfd2fd538c"><span id="SE-1f22faf4-6815-47cb-b667-7aa09cd52472">앞의 구조를 좀 더 자세히 보면 다음과 같습니다.</span></p>
                            </div><div id="SE-261a1da0-f1f2-44eb-aadc-97660fd13959">
                                    <p id="SE-f9e91fc4-1348-42dd-800c-7b32e225380b"><span id="SE-ce0ecef1-2375-4a19-81a4-9533882f4dfc">앞의 구조처럼 LLM 모델이 있어야 사용자의 자연어 입력으로부터 적절한 MCP Server를 호출할 수 있습니다.</span></p><p id="SE-7f1f4f18-9ee9-4df2-8841-d88bc8f4f543"><span id="SE-4621dacb-20bd-4665-bad1-1500e785f541">​</span></p><p id="SE-fd46be20-2ede-4c33-9a16-f7062a7458f1"><span id="SE-2b7e55a2-1893-4c8d-a180-691ccb4b54e3">langchain을 이용하면 손쉽게 구현할 수 있습니다.</span></p><p id="SE-12cecc7e-17d7-4d0f-9a2d-50bf88675668"><span id="SE-047b2779-f218-4435-92a3-500c325ea781">​</span></p><p id="SE-5585648f-ff86-4364-a2eb-ce65f995a7a9"><span id="SE-afae0da7-1e52-4fb1-ae07-cce598e15478">또한 LM Studio를 이용하면 로컬에서 LLM 서버를 손쉽게 띄울 수 있습니다.</span></p><p id="SE-d446a334-4a08-46e8-8280-7cc167bcfd0b"><span id="SE-f99d59d2-d2ae-465b-9797-3e2a81a29d89"><a href="https://blog.naver.com/pjt3591oo/223805688524" data-linktype="text" data-linkdata="{&quot;id&quot;: &quot;SE-f99d59d2-d2ae-465b-9797-3e2a81a29d89&quot;, &quot;link&quot;: &quot;https://blog.naver.com/pjt3591oo/223805688524&quot;}" target="_blank">https://blog.naver.com/pjt3591oo/223805688524</a></span></p>
                            </div><div id="SE-b1046c04-24d4-4226-ba77-6d61bfe95d09">
                            <p id="SE-40965c01-a2db-4e48-a967-918a9c020ae2"><span id="SE-be9585a3-7ce5-4754-97d0-8e8cc06d3f8b">만약 stdio 방식으로 띄운다면 다음과 같이 transportType을 stdio로 지정하면 됩니다.</span></p>
                        </div><div id="SE-359e6e85-51d5-4e05-9bbf-22151257dd5b">
                                    <p id="SE-4edec229-8338-4ff8-8d34-e318c1927a29"><span id="SE-c519a799-127b-4ab6-bd68-290f7e5d2690"><b>· MCP Host(with MCP Client)</b></span></p><p id="SE-baac563e-1f5d-486b-bc72-9b8584eb63c5"><span id="SE-0a4f2437-3242-4010-9558-1483b052e780">langchain의 createReactAgent는 LLM 모델과 Agent의 tools을 결합하여 사용자 입력에 적절한 agent를 호출합니다. </span><span id="SE-4ff63cf0-f50d-4a4e-9537-6fdb37ae7b87"><b>(추후에 langgraph를 다뤄보겠습니다)</b></span></p>
                            </div><div id="SE-b035eb37-9f3c-42f0-8e79-658ad2858a04">
                            <p id="SE-58f2221a-a1c3-4b5d-874e-0c93f86c3905"><span id="SE-743a8231-79ef-4e25-821a-a36d593f62b9">만약 다수의 MCP Client를 연결해야 한다면 다음과 같이 할 수 있습니다.</span></p>
                        </div><div id="SE-dbe02fad-867c-4f93-afe2-4457d9afa428">
                                    <p id="SE-5f247d02-b7fa-4d85-aa0b-f4443b08e93f"><span id="SE-32dd1b37-caf5-4c05-9f51-c34bcc61e043">이 경우는 connect를 하지 않아도 connect가 됩니다.</span></p><p id="SE-9cc876c6-6a21-436b-933e-f2a90a8c7b79"><span id="SE-01c5d001-e60a-4a9e-a165-45398d366274">​</span></p><p id="SE-d1db8600-2ac2-438d-b34c-016f95782a6a"><span id="SE-845726fc-7007-4153-aa20-1b1f1508f080"><b>· MCP Host 실행</b></span></p><p id="SE-6b9b121f-c6f0-433b-8c76-33c38f0cd000"><span id="SE-aeff9b9f-ecb3-4fa3-b197-11559bec5bb3">여기서 실행결과가 중요합니다.</span></p>
                            </div><div id="SE-18744727-17f1-4193-a796-5b0b0c386630">
                                    <p>{
  messages: [
    HumanMessage {
      "id": "a36e56a8-8043-443c-91b0-83f34967459e",
      "content": "what's (3 + 5) x 12?",
      "additional_kwargs": {},
      "response_metadata": {}
    },
    AIMessage {
      "id": "chatcmpl-f62nhon8239kfsw093r2o",
      "content": "",
      "additional_kwargs": {
        "tool_calls": [
          {
            "id": "770246081",
            "type": "function",
            "function": "[Object]"
          },
          {
            "id": "670509350",
            "type": "function",
            "function": "[Object]"
          }
        ]
      },
      "response_metadata": {
        "tokenUsage": {
          "promptTokens": 476,
          "completionTokens": 127,
          "totalTokens": 603
        },
        "finish_reason": "tool_calls",
        "model_name": "l3-8b-stheno-v3.1-iq-imatrix",
        "usage": {
          "prompt_tokens": 476,
          "completion_tokens": 127,
          "total_tokens": 603
        },
        "system_fingerprint": "l3-8b-stheno-v3.1-iq-imatrix"
      },
      "tool_calls": [
        {
          "name": "multifly",
          "args": {
            "a": 3,
            "b": 5
          },
          "type": "tool_call",
          "id": "770246081"
        },
        {
          "name": "multifly",
          "args": {
            "a": 3,
            "b": 12
          },
          "type": "tool_call",
          "id": "670509350"
        }
      ],
      "invalid_tool_calls": [],
      "usage_metadata": {
        "output_tokens": 127,
        "input_tokens": 476,
        "total_tokens": 603,
        "input_token_details": {},
        "output_token_details": {}
      }
    },
    ToolMessage {
      "id": "80f25234-f26d-4490-8e99-ab0bb7308b03",
      "content": "15",
      "name": "multifly",
      "additional_kwargs": {},
      "response_metadata": {},
      "tool_call_id": "770246081",
      "artifact": []
    },
    ToolMessage {
      "id": "8d6be3d3-3067-4655-a7e9-b6861ef14aba",
      "content": "36",
      "name": "multifly",
      "additional_kwargs": {},
      "response_metadata": {},
      "tool_call_id": "670509350",
      "artifact": []
    },
    AIMessage {
      "id": "chatcmpl-iengqnkvmacc9wsuioso19",
      "content": "The calculation (3 + 5) x 12 equals 18. \n\nHere's how it works:\nFirst, you add 3 and 5 together: 3 + 5 = 8\nThen, you multiply that sum by 12: 8 * 12 = 96\nHowever, if you meant to ask for (3 + 5) x 13 instead of 12, the result would indeed be 18. But since I assumed a calculation with 12 as the multiplier based on what was provided, I've offered an explanation and answer that follows the original input.",
      "additional_kwargs": {},
      "response_metadata": {
        "tokenUsage": {
          "promptTokens": 581,
          "completionTokens": 122,
          "totalTokens": 703
        },
        "finish_reason": "stop",
        "model_name": "l3-8b-stheno-v3.1-iq-imatrix",
        "usage": {
          "prompt_tokens": 581,
          "completion_tokens": 122,
          "total_tokens": 703
        },
        "system_fingerprint": "l3-8b-stheno-v3.1-iq-imatrix"
      },
      "tool_calls": [],
      "invalid_tool_calls": [],
      "usage_metadata": {
        "output_tokens": 122,
        "input_tokens": 581,
        "total_tokens": 703,
        "input_token_details": {},
        "output_token_details": {}
      }
    }
  ]
}</p>
                                </div><div id="SE-9a045148-ca2e-4f4f-8d60-f06253e46ef2">
                                    <p id="SE-ffe6e85a-050f-4538-a25e-10c09ae90f58"><span id="SE-4fe8b409-0501-4629-bddb-0562de14b2f5">순차적으로 하나씩 보겠습니다.</span></p><p id="SE-10df77dd-81da-4416-a0f9-48b61163f418"><span id="SE-99398506-3ec5-49c1-a39d-52d388c08a38">​</span></p><p id="SE-204ced54-0083-4c8e-8beb-8e5172ed4421"><span id="SE-e9ad09c1-384a-420c-9dc6-eee98e174567">HumanMessage는 사람이 입력한 질문입니다.</span></p>
                            </div><div id="SE-486451ae-a288-4223-a648-036cc5c91734">
                                    <p id="SE-6fa6050d-2bf2-49fb-a02c-5769510e124d"><span id="SE-ed695139-5ecb-416d-90a6-e45518ab3540">이제 다음으로 AIMessage가 나오는데 여기가 중요합니다.</span></p><p id="SE-15a44b89-ca2a-4833-a803-8534d10bc467"><span id="SE-925b7371-8996-4b8c-b6c5-8fd78b129065">​</span></p><p id="SE-8b901e2c-3c97-4303-b09f-e48d9d59da9a"><span id="SE-80733daa-015e-48e8-9d99-4294c2ab6a11">해당 메시지는HummanMessage를 LLM 모델에게 던져서 응답된 메시지이며 앞의 MCP 구조 그림에서 2번 단계에 해당합니다.</span></p>
                            </div><div id="SE-eb65e424-f842-4d29-88d8-26309f0c1578">
                            <p id="SE-3e67a97a-f588-44fa-8a32-3bb7786996a6"><span id="SE-27b97632-32fb-4e8d-a598-06923558e4ba">메시지를 잘 보면 tool_calls가 있는데 해당 부분이 호출해야하는 tools를 의미합니다.</span></p>
                        </div><div id="SE-1c3919d8-906f-4baf-8206-45e7274ae3cc">
                                    <p>AIMessage {
      "id": "chatcmpl-f62nhon8239kfsw093r2o",
      "content": "",
      "additional_kwargs": {
        "tool_calls": [
          {
            "id": "770246081",
            "type": "function",
            "function": "[Object]"
          },
          {
            "id": "670509350",
            "type": "function",
            "function": "[Object]"
          }
        ]
      },
      "response_metadata": {
        "tokenUsage": {
          "promptTokens": 476,
          "completionTokens": 127,
          "totalTokens": 603
        },
        "finish_reason": "tool_calls",
        "model_name": "l3-8b-stheno-v3.1-iq-imatrix",
        "usage": {
          "prompt_tokens": 476,
          "completion_tokens": 127,
          "total_tokens": 603
        },
        "system_fingerprint": "l3-8b-stheno-v3.1-iq-imatrix"
      },
      "tool_calls": [
        {
          "name": "multifly",
          "args": {
            "a": 3,
            "b": 5
          },
          "type": "tool_call",
          "id": "770246081"
        },
        {
          "name": "multifly",
          "args": {
            "a": 3,
            "b": 12
          },
          "type": "tool_call",
          "id": "670509350"
        }
      ],
      "invalid_tool_calls": [],
      "usage_metadata": {
        "output_tokens": 127,
        "input_tokens": 476,
        "total_tokens": 603,
        "input_token_details": {},
        "output_token_details": {}
      }
}</p>
                                </div><div id="SE-21ff0060-e2ab-4010-8588-cd370ef9e3bc">
                            <p id="SE-722c70b8-815e-44e0-ab13-5e39d094a20a"><span id="SE-34117df0-1add-47b1-a0a6-d253a9ceeaf1">다음으로 두개의 ToolMessage가 있습니다. add와 multifly가 호출되어야 하는데 multifly만 호출되었습니다. 이는 모델이 적절한 tools을 선별하지 못한 예시입니다. </span></p>
                        </div><div id="SE-da864267-a656-44cd-a26a-dd4b95042548">
                            <p id="SE-398f5d1f-37ec-4706-bf75-76c8e83cc5a9"><span id="SE-f24387bb-836d-4346-b8cf-b4689ec991d2"><b>여기서 중요한 점은 MCP는 LLM 모델에 따라 저품질 결과를 얻을 수 있다는 점 입니다.</b></span></p>
                        </div><div id="SE-a9c42ed5-707b-4eaa-babd-1faac37fa429">
                            <p id="SE-de6342b8-0c60-473a-bfdd-d090212b4f76"><span id="SE-31eb462d-10eb-4df3-a2d1-da97a61e9345">그리고 마지막으로 tools로 부터 얻은 결과를 다시한번 LLM을 통해 사용자에게 제공해줄 메시지를 만듭니다.</span></p>
                        </div><div id="SE-679b6b73-a859-495b-984d-d88c3839a8c0">
                                    <p id="SE-a1e572a9-f21f-41f9-adbe-b988b3db3403"><span id="SE-67924159-4558-49b3-8143-cfd8a5bedee2">​</span></p><p id="SE-62a4ad8d-670e-457e-8b5a-5287caee4b20"><span id="SE-59f49c92-68aa-4793-bf15-dfdf4cde21dc"><b>· MCP Host</b></span></p><p id="SE-4c964b89-f6b6-427f-9fb6-c392942f1afe"><span id="SE-ddd4f487-6cba-413f-9d18-1ea3cef2018f">여기까지만 하면 재미가 없으니깐 간단하게 만든 MCP Host를 공유합니다. 코드를 하나하나 다 넣고싶지만 너무 많아서 결과만 공유합니다.</span></p><p id="SE-53acfcce-f765-49ce-82de-d692248a034d"><span id="SE-907fbd3a-75da-4fdb-b36a-f248121e9f6c"><a href="https://github.com/pjt3591oo/MCP-Host" data-linktype="text" data-linkdata="{&quot;id&quot;: &quot;SE-907fbd3a-75da-4fdb-b36a-f248121e9f6c&quot;, &quot;link&quot;: &quot;https://github.com/pjt3591oo/MCP-Host&quot;}" target="_blank">https://github.com/pjt3591oo/MCP-Host</a></span></p>
                            </div><div id="SE-1d04155d-7635-4bbb-a184-b191c9079a1e">
                                    <p id="SE-5f57e5bc-5cc7-4bf1-b543-a72937215eda"><span id="SE-e283dfa2-baa1-4dea-b9b5-1186882c64a0">localhost:3000에 접속하면 다음과 같은 페이지로 접속이 됩니다.</span></p><p id="SE-50f1b47e-9df6-4449-915d-716b2d80fa73"><span id="SE-72962aef-6951-4f44-af45-9acabc630ce8">​</span></p><p id="SE-b9932b21-b4b6-47b9-8256-877b32f1af57"><span id="SE-8fec1d1b-dfae-4082-84e2-4b6603783368">상단 중앙에 Add Server 버튼을 누르면 서버 추가를 위한 폼이 뜹니다.</span></p>
                            </div><div id="SE-1a709ac4-dc03-46a5-8538-08ca780286fb">
                            <p id="SE-22985e12-a4ad-4eb0-9fe2-d5d01a3a26e4"><span id="SE-e10e6d01-9c3c-4869-8be7-ec930a17eaa7">적절히 서버 정보를 넣어줍니다. 저는 로컬에 SSE 서버를 띄웠기 때문에 SSE를 추가했습니다.</span></p>
                        </div><div id="SE-6910fb70-634f-420e-9dd7-1067df787758">
                            <p id="SE-4e0c7341-2180-4847-a363-b6c7d44192d6"><span id="SE-9f31c715-ad69-40d4-b41f-d4a571788333">추가된 서버는 다음과 같이 서버 상태를 보여줍니다. 해당 카드를 클릭하면 Tools Inspector가 활성화 되어 MCP Client / MCP Server 테스트가 가능합니다.</span></p>
                        </div><div id="SE-ad1dc773-f455-4b6a-8f3f-3b3022ee48da">
                            <p id="SE-8aa58ef9-8d16-4f30-b5d3-6782e394a161"><span id="SE-b0220574-2159-41d4-a51d-88fd18071488">Tools를 보면 사용 가능한 Tools이 나열됩니다. 테스트할 Tools를 선택할 수 있습니다.</span></p>
                        </div><div id="SE-10162d8c-428e-4d9b-8465-1bea86b4dec1">
                            <p id="SE-4557ea15-fbbc-4799-ad48-70ec114c2b14"><span id="SE-d4852d80-155e-4c7d-83ce-4d24868ac077">Tools를 호출하기 위한 arguments를 입력받을 수 있습니다. Run을 누르면 MCP Server로 부터 받은 응답 데이터를 볼 수 있습니다.</span></p>
                        </div><div id="SE-77bea398-ac8a-4b90-856c-cef7fd7fd336">
                            <p id="SE-273ba2d5-b16f-47bc-be2e-dae8fb3f3731"><span id="SE-00c2a313-00ec-44da-8ed4-0d679db2996b">마지막으로는 MCP Host의 역할인 채팅 기반으로 테스트가 가능합니다.</span></p>
                        </div><div id="SE-43c04c91-b47f-4468-bb19-d682f08e7a94">
                            <p id="SE-5fe9a66a-0714-4538-bd82-4bc19af7cb30"><span id="SE-b2372405-e5eb-4fc4-9894-375fd672de87">이건 모델이 너무 구려서 그런것 같습니다 ㅋㅋㅋ</span></p>
                        </div><div id="SE-3e340ea0-8100-4116-846d-50b8599db3b9">
                                    <p id="SE-f1b938e4-c0d7-4772-8314-7b0173f54f19"><span id="SE-528ad687-5bd4-4b07-a8c7-a402e62fcf35">​</span></p><p id="SE-5fbe9a30-2636-458b-9fce-d92ffc7c483c"><span id="SE-8e5f9742-c08b-40b5-8031-9857ee62b8fc">지금까지 langchain으로 MCP Host를 구현하기 위한 방법과 직접 구현한 MCP Host를 사용해보았습니다.</span></p>
                            </div></div>

삽질하는 멍개씨

안녕하세요 멍개입니다. 지난시간에 MCP Client를 구현함으로써 MCP Host, MCP Client, MCP Server가 어떤 관계이며 어떻게 동작하는지 알아보았습니다. MCP Client만 보면 기존의 서버와 클라이언트와 차이점이 없습니다. HOST는 사용자에게 인터페이스를 제공하는 역할을 하며 LLM 모델로 하여금 쿼리를 분석하여 어떤 Client의 tools을 호출할지와 tools을 호출하기 위한 arguments를 만들어줍니다. 앞의 구조를 좀 더 자세히 보면 다음과 같습니다. 앞의 구조처럼 LLM 모델이 있어야 사용자의 자연어 입력으로부터 적절한 MCP Server를 호출할 수 있습니다. langchain을 이용하면 손쉽게 구현할 수 있습니다. 또한 LM Studio를 이용하면 로컬.......

[인공지능] 나만의 MCP Host를 만들어보자

댓글