GPTがステートレスなのは構造的な課題だよな……。次の会話をするまでに今までの会話の情報すべてをインプットしないといけないから、トークンがめちゃくちゃ増えていく……。かと言ってステートフルにするのもめっちゃ難しそうだし、それはそれで色んな課題がある……。