Tag: #EdgeAI

Gemma 2Bで実用的なローカルRAGアプリを作るためのチューニングと「時間クエリ」対策

Gemma 2Bで実用的なローカルRAGアプリを作るためのチューニングと「時間クエリ」対策

はじめに 最近、プライバシー保護のため、すべてのデータをクラウドに送信せず、デバイス内で完結させるエッジAI(ローカルAI)に関心を持っている。 その取り組みとして、Android端末の内部ストレージにある複数のMarkdownファイルを読み込んで、端末内で質問に答えるノートアプリ「mini-brain」を開発している。 しかし、実機で動作を確認したところ、質問に関連しないファイルを検索してしまっ