Skip to content
Artwork for からあげ帝国放送局
からあげ帝国放送局 · September 16 · 15 min

#165 トルネコAI実況の遅延で学んだKVキャッシュの基本

トルネコの大冒険で初めて挑戦したAIゲーム実況について、xangi-avatarとローカルLLMを組み合わせた仕組みを紹介します。画面理解や音声での反応は動いた一方、長時間の会話履歴を単純に切り詰めたことでKVキャッシュが効かなくなり、実況が遅れていった原因を振り返ります。AIが修正を助けてくれる時代でも、基礎を知ることが問題発見と解決につながるという話をしました。 目次 00:00 オープニングと秋の気配 00:41 トルネコの大冒険でAIゲーム実況に挑戦 03:53 borotを実況役にした仕組み 06:35 ローカルLLMを選んだ理由 07:13 実況で見えた手応えと深刻な遅延 08:13 TransformerとKVキャッシュの基本 10:14 会話履歴の切り詰めで遅くなった原因 10:52 コンパクションと基礎知識の大切さ 12:59 AI実況への再挑戦とxangi-avatarの公開方針 14:40 お知らせとエンディング リンク トルネコの大冒険 AI実況テスト https://www.youtube.com/live/2V6ULUjCbxk ▼コミュニティ「からあげ帝国」への参加はこちら(Discord) https://discord.com/invite/PWpEB7KUsN

0:00-15:15

transcript

No transcript — this publisher did not publish one.

show notes

トルネコの大冒険で初めて挑戦したAIゲーム実況について、xangi-avatarとローカルLLMを組み合わせた仕組みを紹介します。画面理解や音声での反応は動いた一方、長時間の会話履歴を単純に切り詰めたことでKVキャッシュが効かなくなり、実況が遅れていった原因を振り返ります。AIが修正を助けてくれる時代でも、基礎を知ることが問題発見と解決につながるという話をしました。


目次

00:00 オープニングと秋の気配

00:41 トルネコの大冒険でAIゲーム実況に挑戦

03:53 borotを実況役にした仕組み

06:35 ローカルLLMを選んだ理由

07:13 実況で見えた手応えと深刻な遅延

08:13 TransformerとKVキャッシュの基本

10:14 会話履歴の切り詰めで遅くなった原因

10:52 コンパクションと基礎知識の大切さ

12:59 AI実況への再挑戦とxangi-avatarの公開方針

14:40 お知らせとエンディング


リンク

トルネコの大冒険 AI実況テスト

https://www.youtube.com/live/2V6ULUjCbxk


▼コミュニティ「からあげ帝国」への参加はこちら(Discord)

https://discord.com/invite/PWpEB7KUsN