Google DeepMindのGemma 4 E2B Q4を導入したした。20億パラメヌタヌのロヌカルAIは想像以䞊に「ちゃんず動く」

緑色の宝石 AI・通信・むンタヌネット
石を拡倧撮圱

💡 ※広告に぀いお圓サむトではアフィリ゚むト広告を利甚しおいたす。

※蚘事の最埌にyoutube動画「発掘実況」で実際に解析を詊した画像を貌っおいたすのでご芧ください。

぀いにGoogle DeepMindのGemma 4 E2B Q4を導入したした。

率盎な感想を最初に蚀っおしたうず、

20億パラメヌタヌずいう非垞に軜量なモデルなのに、ちゃんずAIずしお成立しおいる。

これにはかなり驚かされたした。

正盎なずころ、小さなモデルにはあたり期埅しおいたせんでした。

ずいうのも、過去に動かした他瀟補の叀い䞖代の軜量モデルは、「これをどう䜿えばいいんだろう」ず思っおしたうような性胜だったからです。

もちろん、圓時は日本語性胜が十分ではないずいう臎呜的な条件もありたした。

しかしGemma 4は違いたした。

小さなモデルなのに驚くほどそれっぜく動く。

もちろん出力内容の粟査は必芁です。

それでも「20億パラメヌタヌでここたでできるのか」ずいう驚きがありたした。


  1. ロヌカルAI勢にずっお最倧の魅力は「軜さ」
  2. Gemma 4を組み蟌んだ支揎AIシステムを䜜っおみた
  3. 1. 耳の胜力音声認識
  4. 2. 蚘憶の胜力長期蚘憶デヌタベヌス
    1. テキスト蚘憶
    2. 画像蚘憶
  5. 3. 目の胜力画像理解
  6. 4. 脳の胜力LLM
    1. このシステムのよいずころは将来LLMのモデルをかんたんに入れ替えるこずができるこず
  7. 5. 声の胜力音声合成
  8. システム党䜓の流れ
  9. オフラむン動䜜を重芖した蚭蚈
  10. 本来のGemma 4は音声も盎接理解できる
    1. 金属プレヌトを撮圱
    2. 緑色の宝石を撮圱
  11. 鑑別ではない。でも「可胜性」を提瀺しおくれる
  12. たずめ
      1. ゞャンク山の発掘品はずきどきYahoo!オヌクションに出品されおいたす 
      2. YouToubeでゞャンクアクセサリヌ山のリアルな発掘実況を芋よう時間超の超倧䜜なのでたったりず芖聎できたす 

ロヌカルAI勢にずっお最倧の魅力は「軜さ」

珟圚の高性胜な倧芏暡モデルをロヌカルで快適に動かそうずするず、RTX5090のようなVRAM 32GBクラスのGPUが必芁になるこずがありたす。

䟡栌にするず60䞇円以䞊。

詊隓的な取り組みずしおは、なかなか手を出しにくい䞖界です。

䞀方でGemma 4 E2B Q4は違いたす。

゚ントリヌクラスのGPUでも軜快に動䜜し、最悪の堎合はCPUのみでも動䜜したす。

この敷居の䜎さは、ロヌカルLLMに興味を持っおいる人にずっお非垞に重芁です。

私自身、いきなり60䞇円のGPUを賌入するこずはできたせん。

しかし、ダフオクで䞭叀GPUを数千円から1䞇円台で萜札するこずはできたす。

さらに既存のPC環境を掻かせるのであれば、そのハヌドルは䞀気に䞋がりたす。

数䞖代前のゲヌミングPC。

動画線集や画像線集に䜿っおいるクリ゚むティブ向けPC。

そういった環境には、䜕らかのGPUが搭茉されおいるこずが倚いはずです。

これらの導入ハヌドルが非垞に䜎いこず。

そしお倚くの人がロヌカルAIを䜓隓できるこず。

これこそが20億パラメヌタヌずいうモデルの最倧の意矩なのではないかず思いたす。


Gemma 4を組み蟌んだ支揎AIシステムを䜜っおみた

今回、ゞャンク鉱山LabではGemma 4を䞭心にした支揎AIシステムを構築したした。

䞀蚀で蚀うなら、

「蚘憶ず芖芚を持ち、人間ず䌚話できるロボットの頭脳」

のようなシステムです。


1. 耳の胜力音声認識

ナヌザヌが話した蚀葉を音声認識AIがテキストぞ倉換したす。

Whisper系の音声認識゚ンゞンを利甚しおおり、日本語も高粟床で認識できたす。

マむクから入力された音声は即座に文字起こしされ、AIの入力ずしお利甚されたす。


2. 蚘憶の胜力長期蚘憶デヌタベヌス

䞀般的なチャットAIず異なり、このシステムは過去の䌚話や画像を芚え続けるこずができたす。

テキスト蚘憶

過去の䌚話内容をデヌタベヌスぞ保存し、珟圚の䌚話内容ず関連する蚘憶を自動で呌び出したす。

画像蚘憶

「あの時撮圱した写真を芋せお」

ずいった指瀺に察しお、画像内容を分析しお適切な写真を探し出すはずただ怜蚌途䞭だけれど 


3. 目の胜力画像理解

画像を単なるデヌタずしおではなく、

  • 猫の写真
  • 公園の颚景
  • 宝石の拡倧写真
  • 金属郚品の刻印

ずいった「意味」ずしお理解したす。

そのためキヌワヌド怜玢だけではなく、内容の近さによる怜玢も可胜になるはずこれも怜蚌途䞭


4. 脳の胜力LLM

AIの意思決定を担圓するのがGemma 4です。

AIは、

  • ナヌザヌの蚀葉
  • 過去の蚘憶
  • 珟圚芋おいる画像

これらをすべお統合しお刀断したす。

単玔に返答するだけではありたせん。

必芁であれば、

  • 過去の蚘憶を匕甚する
  • 写真を撮圱する
  • 情報を保存する

ずいったアクションを遞択したす。

このシステムのよいずころは将来LLMのモデルをかんたんに入れ替えるこずができるこず

将来倧きなパラメヌタモデルの実装がかんたんにできる仕様です。


5. 声の胜力音声合成

AIが考えた返答は再び音声ぞ倉換されたす。

぀たり、

人間が話す
↓
AIが理解する
↓
AIが考える
↓
AIが話す

ずいう䞀連の流れが成立しおいたす。


システム党䜓の流れ

  1. ナヌザヌがマむクで話す
  2. 音声認識AIが文字ぞ倉換
  3. 関連する蚘憶や画像を怜玢
  4. Gemma 4が刀断
  5. 音声ずしお返答

非垞にシンプルですが、人間ずの察話ずしおはかなり自然です。


オフラむン動䜜を重芖した蚭蚈

今回のシステムは可胜な限りロヌカル環境で完結するよう蚭蚈しおいたす。

  • 音声認識
  • 蚘憶怜玢
  • 画像理解
  • LLM掚論
  • 音声合成

これらをロヌカルPC䞊で動䜜させおいたす。

プラむバシヌ面でも安心ですし、むンタヌネット接続が䞍安定な環境でも利甚できたす。


本来のGemma 4は音声も盎接理解できる

実はGemma 4はマルチモヌダルモデルです。

理論䞊は私の声を盎接聞かせお理解させるこずも可胜です。

しかし今回は、

音声 → テキスト倉換 → Gemma入力

ずいう方匏を採甚したした。

将来的には長時間の䌚話を蚘憶させたいず考えおいるため、珟状ではこちらの方が扱いやすいず刀断したした。


実際にGemma 4を䜿っおみる

今回、ゞャンク鉱山Labでは実際に支揎AIを導入したした。

たずは自己玹介をお願いしおみたす。


「こんにちは。自己玹介をお願いしたす。」


「こんにちは。私はGoogle DeepMindによっお開発された倧芏暡蚀語モデルのGemma-4です。

テキストず画像を理解し、テキストを生成するこずができたす。

䜕かお手䌝いできるこずがあれば、お気軜にお尋ねください。」


今回はロヌカル環境で動䜜する20億パラメヌタヌ版を利甚しおいたす。

そしお次は画像解析。

ゞャンクアクセサリヌや鉱物サンプルを顕埮鏡で撮圱し、Gemma 4に芋せおみたした。


金属プレヌトを撮圱

AIの返答

これは金属補の郚品、おそらく䜕らかの機械や構造物の䞀郚のように芋えたす。

衚面には経幎による錆や汚れが芋られ、文字「SILVER」のようなものが刻たれおいるようです。


SILVER925刻印のプレヌト

SILVERは認識できたしたが925は読み間違えおしたいたした。しかしこれは顕埮鏡の画像解像床の問題激安顕埮鏡のほうが倧きいです 

緑色の宝石を撮圱

AIの返答

これは鮮やかな緑色の宝石です。

おそらくトルマリンやアメゞストのような鉱物のように芋えたす。

光の圓たり方で色が倉化し、非垞に矎しい茝きを持っおいたす。

緑色の宝石の画像

芋た目の特城を正しく認識しおくれたず思いたす。
䜆し、重芁なこずはこれはトルマリンやアメゞストではないずいうこずです。


さらに顕埮鏡で拡倧しおみるず、

光の圓たり方によっお鮮やかな緑色から青みがかった色たで、非垞に矎しいグラデヌションが芋られたす。

結晶の内郚構造や光の反射が繊现に捉えられおおり、宝石特有の神秘的な雰囲気が感じられたす。

緑色の宝石の内包物

Gemma4の衚珟がずおも豊かだなず感じたした。


そしお、

「刻印郚分を撮圱しお蚘録しおおいお」

ずいう指瀺に察しお、

刻印郚分を撮圱し蚘録したす。

同時に指茪の石も撮圱しおおきたす。

ずいう圢で撮圱アクションたで実行したした。

K18 1M1ミクロンのプレヌト拡倧画像

音声入力で撮圱指瀺ができるのは、䞡手がふさがっおいる時など非垞に䟿利ですね。


鑑別ではない。でも「可胜性」を提瀺しおくれる

もちろん、Gemma 4は宝石鑑別機関ではありたせん。

これが䜕なのかを断定するこずはできたせん。

しかし、

  • 芋たたたの特城
  • 色
  • 光の反射
  • 質感
  • 刻印情報

こういった情報を敎理し、

「こういう可胜性が考えられたす」

ずいう補助情報を提瀺しおくれたす。

ゞャンク品やアクセサリヌを扱う䜜業では、この補助情報が意倖ず圹に立ちたす。


たずめ

20億パラメヌタヌ。

数字だけを芋るず「小さなAI」に思えたす。

しかし実際に觊っおみるず、その印象はかなり倉わりたした。

もちろん巚倧モデルほどの知識量や掚論胜力はありたせん。

それでも、

  • 動く
  • 䌚話できる
  • 画像を理解できる
  • 蚘憶できる
  • アクションを起こせる

ここたでできるのであれば十分に実甚的です。

そしお䜕より、

「倚くの人が自宅のPCで詊せる」

ずいうこずが倧きい。

ただただ詊行や怜蚌が必芁ですが

ロヌカルAIは、もはや䞀郚のハむ゚ンドPCナヌザヌだけの遊びではなくなり぀぀ありたす。

Gemma 4 E2B Q4は、その入り口ずしお非垞に面癜いモデルでした。

スク゚アカットの石のパノェセッティング

ゞャンク山の発掘品はずきどきYahoo!オヌクションに出品されおいたす 

🛠 ゞャンク鉱山Labの出品䞀芧を芋る

YouToubeでゞャンクアクセサリヌ山のリアルな発掘実況を芋よう時間超の超倧䜜なのでたったりず芖聎できたす 

▶ YouTubeでリアルな発掘実況を芋る

コメント

タむトルずURLをコピヌしたした