Report:FileMaker Go 開発・利用者の為のiOSアプリ構築ハンズオン(Season3 | アプリ開発編)
SwiftMaker Meeting 活動レポート
FileMaker Go 開発・利用者の為の iOS アプリ構築ハンズオン
Season 3|アプリ開発編
今回のテーマ
今回は、前回の最後に着手した「ローカルでAIモデルを利用する際に、それぞれのモデルでどの程度の力量の差が出るのか」を確認するアプリの続編である。
そもそもローカル(オンプレ)環境でAIモデルを利用しなければならない場面とはどのような時か、を考えると、その第一義的な理由はセンシティブな情報を取り扱うことが前提の「対外非公開」情報の処理となる。そうした環境での利用で、果たしてローカルAIは“使い物になる”対象なのか、仮に使いものになるのであれば、それはどのモデルをどのように使うのが適切なのか——これを検証するためのツールとして今回は実装を試みた。
従って構築するアプリは使い勝手も考慮するのだが、今回の画面はAIに提案させてみた。
使い方 — ミーティングの流れ
アプリを使うにあたっての操作は、次の6ステップで一巡するナビゲーションを想定している。
|
STEP 1
課題を選ぶ
プリセット課題をクリック、または自分でプロンプトを入力
|
STEP 2
パラメータ調整
必要に応じて調整。タスク別のプリセットも用意
|
STEP 3
モデル選択
比較したいモデルを選ぶ(既定で8bit)
|
|
STEP 4
比較実行
選択したモデルを順番に叩き、結果がグリッドに積み上がる
|
STEP 5
★採点 + メモ
各回答を星で評価し、気づきをメモに残す
|
STEP 6
結論を保存
Markdown / JSON出力でミーティングの結論を保存
|
プリセットで“同条件”を再現
一概にローカルAIのモデル同士を比較するといっても、その比較条件の設定が非常に重要な要素となる。そこでこのアプリには、諸条件を設定できる機能を持たせている。
実機構成 — ローカルモデルの配置
実際にどのようなモデルをローカルに配置したかは以下の通り。ローカルマシンは、去る正月頃までであればまだ手に入れることができた Mac Studio M3 Ultra 512GB。今では夢のようなメモリ空間を持つマシンとなっている。
http://10.1.1.1:8085 を開くだけ(LAN/Tailscale 両対応・各自セットアップ不要)
追加検証モデルと所感
今回の実装にあたり、「ornith」というモデルがあり、これは「coding」に注力したモデルとして最近登場したことから、急きょ今回の評価対象に加えた。また、マシンスペックでどれほど異なる結果が出るのかを検証するために、これ以外に Mac Studio M3 Ultra 96G も対象機材として準備した。いずれも本研修会の会場にある機材ではなく、それぞれのリモート先の環境にアクセスしての検証とした。
いずれにしても、ローカルで使用可能なモデル(ローカルAI)は、クラウドAIで使用可能なモデルとはその知識量に圧倒的な差があり、またマシンスペックも段違い(という表現でも正確な較差を表現できていない)の違いがある。こうした状況の中で、ローカルAIに何を求め、何を受け入れるかの判断は、それぞれの運用組織で明確にしておく必要がある——という感想が参加者から共感を得た。
ローカル環境に1台、相応の機材を用意してAIサーバーとし、そこへアクセスしてAI機能を利用する。利用するマシンは、運用するオペレーターの従事する業務に則した相応のスペックのマシンとする。ローカルAIサーバーに問い合わせるような内容の回答を持つデータは、ローカル環境のしかるべき場所にセキュアに格納する。プライバシーや秘匿性を考慮せず、スピードとある程度の正確性を求めるものについては、クラウドAIに問い合わせる——というのが現実的な選択肢ではないか、ということを改めて共有した。
またローカルAIは、クラウドAIと異なり反応性に明らかな差があるため、クラウドAIに慣れた感覚ではスピード面での使い勝手は相当悪く感じる。つまるところ「ローカルモデルは遅い」という大前提で扱う必要があると考えると、文章生成(要約)のような機能をメインで使う、というのが今の段階での最適解ではないか——というのが今回の研修会での方向性として共有された。
今後の予定
事務局からの情報提供として、各種モデルの性能評価を行う環境「LLMOps」の紹介を実施した。こちらの使い勝手については、次回その使用感とともに報告予定。
今回、ローカルモデル(ローカルAI)の構築方法とその利用環境のスペック検証を実践的に行えたことで、クラウドモデルでの利用方法も含め、各々の利用条件に合わせて最適な環境を構築できる目処が立った。そこで次回は、どのようなアプリであれ、まずは可能な範囲で構築を試み、その進捗を報告する会とし、ノウハウなどの知見を蓄積する機会とすることになった。