GodotからLMStudioのAPIを呼んでLLMチャット的なのの入り口をやりたい【Godot 4.7】

GodotからAPIリクエストを呼びたい

ドキュメントに↓みたいなのがあるんだから多分色々用意されているはず・・・!!という気持ちでちょっといろいろ試してみる。どうやるか検討あまりついていないけど。(そもそもllm関係のソフトに投げるapiの形式とかもわかっていないのだが・・・)

https://docs.godotengine.org/en/stable/tutorials/networking/http_request_class.html

ゲーム画面に入力欄があって、「チャット入力欄から送信」って形にまで持っていきたいね!

まずは単純にリクエスト送って取ってくるとかできそうかをみたい

https://docs.godotengine.org/en/4.7/classes/class_httprequest.html

ここのサンプルコードをとりあえず動かいてみたら、まあなんとなく動ていそう??結構直感的に色々サンプルのものから変えて使えそうなので見てみようかと思う

で、LLM系のAPIの使用方法とかを確認しようとみてみたら・・・なるほど、まずこの時点で四つあるのね・・・うーん悩みどころ・・・

(ちょっと互換性とか考えたらどうなるんだろうは気になってくるけど)「/api/v1/chat」でちょっと見ていこうかなぁ・・・?

text
 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
extends HTTPRequest

const BASE_URL: String = "http://localhost:1234" 

# endpoint
const CHAT_ENDPOINT: String = "/api/v1/chat" #会話を送るエンドポイント
const MODEL_LIST_ENDPOINT: String = "/api/v1/models" #使用可能なモデルリストを取得するエンドポイント

func _ready():
	# HTTPリクエストの作成
	var http_request = HTTPRequest.new()
	add_child(http_request)
	http_request.request_completed.connect(self._http_request_completed)

	# モデルリストを取得する
	#var request_endpoint = BASE_URL + MODEL_LIST_ENDPOINT
	#var error = http_request.request(request_endpoint)
	#if error != OK:
		#push_error("An error occurred in the HTTP request.")

	# 会話を送信する
	var request_endpoint = BASE_URL + CHAT_ENDPOINT
	
	var body = JSON.stringify(
			{
				"model": "ternary-bonsai-2-2b",
				"input": "こんにちは。私の言葉が聞こえていますか?"
			}
		)
	var headers = ["Content-Type: application/json"]
	var error = http_request.request(request_endpoint, headers, HTTPClient.METHOD_POST, body)
	if error != OK:
		push_error("An error occurred in the HTTP request.")

# Called when the HTTP request is completed.
func _http_request_completed(result, response_code, headers, body):
	var json = JSON.new()
	json.parse(body.get_string_from_utf8())
	var response = json.get_data()

	print(response)
	print(JSON.stringify(body.get_string_from_utf8(),"\t"))

とりあえずこんな感じでリクエストを送って結果をログに出す???出せていそうっていうのまでは見れた!(どうやったら綺麗にログに出せるのだろうかというのはあるが・・・)

入力欄とボタンを追加してメッセージの送受信ができるかを見たい

めちゃくちゃ雑に配置していますが・・・

  1. 入力欄にテキストを入れる
  2. 送信ボタンを押す
  3. 結果が返ってくる

alt text

みたいなところまではなんとなくできました~~~!!イイネ!!!

変えた内容としてはほぼノードを追加してそれとの連携を追加したくらいですけどね~

talk.gd
 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
extends Node2D

@onready var input_area: TextEdit = $InputArea #入力欄
@onready var send_button: Button = $SendButton #送信ボタン
@onready var output_area: RichTextLabel = $OutputArea #出力エリア

const BASE_URL: String = "http://localhost:1234" 

# endpoint
const CHAT_ENDPOINT: String = "/api/v1/chat" #会話を送るエンドポイント
const MODEL_LIST_ENDPOINT: String = "/api/v1/models" #使用可能なモデルリストを取得するエンドポイント

# HTTPリクエストの作成
var http_request = HTTPRequest.new()

func _ready():
	# HTTPリクエストの追加
	add_child(http_request)
	# イベント:ボタン押下時にメッセージの送信行う
	send_button.pressed.connect(self._send_message)
	# イベント:メッセージ送信API呼び出しが完了した時のメソッド呼び出し
	http_request.request_completed.connect(self._receive_message)

	# モデルリストを取得する
	#var request_endpoint = BASE_URL + MODEL_LIST_ENDPOINT
	#var error = http_request.request(request_endpoint)
	#if error != OK:
		#push_error("An error occurred in the HTTP request.")

# /api/v1/chat宛にリクエストを送信する
func _send_message():
	print("_send_messageの呼び出し開始")
	# 会話を送信する
	var request_endpoint = BASE_URL + CHAT_ENDPOINT
	
	# テキスト入力エリアに入力された値を取得する
	var input_text = input_area.get_text()
	
	# リクエストデータの作成を行う
	var req_data = {
				"model": "ternary-bonsai-2-2b",
				"input": input_text
			}
	var body = JSON.stringify(req_data)
	
	# リクエストを行う
	var headers = ["Content-Type: application/json"]
	var error = http_request.request(request_endpoint, headers, HTTPClient.METHOD_POST, body)

	if error != OK:
		push_error("An error occurred in the HTTP request.")
		
	print("_send_messageの呼び出し終了")

# /api/v1/chat宛にリクエスト結果を受け取る
func _receive_message(result, response_code, res_headers, res_body):
	print("_receive_messageの呼び出し開始")
	
	var json = JSON.new()
	json.parse(res_body.get_string_from_utf8())
	var response = json.get_data()
	
	# 生成されたメッセージを取得する
	var generated_messge = null
	for item in response["output"]:
		if item["type"] == "message":
			generated_messge = item["content"]
	
	# 生成されたメッセージを表示する
	output_area.set_text(generated_messge)
	print(generated_messge)
	print("_receive_messageの呼び出し終了")

このリクエストの呼び出し方とか結果の受け取り方の書き方はこれでいいのかなぁ~

リクエスト先ごとに変数を用意するでいいのかなぁ~~~っていうのは少し気になりつつだけど、まぁそんな感じになるような雰囲気で書いてみました。

あとなんなのだろうな・・・「なんかリクエストを開始するまでが妙に遅くね??」と思っています。何か悪いことを下だろうか・・・

一旦ここまで~

本当はキャラクターのお絵描きまでしたりして完成としようと思っていたけど!いったんはここまでで!!!