こんにちは、パラーツの鈴木です。本日は、LLMについて、基本的なことを説明いたします。
まえがき
LLMは、Large Language Models(大規模言語モデル)の略です。言語モデルの仕組みの①データ量、②計算量、③パラメータ数が大規模だということです。
このLLMについて、キノコードさんの分かりやすい動画がありますので、ご紹介させていただきます。
参考講義：LLMとは？ 生成AIとはどういう関係か？
（講師：キノコードさん）
●この動画で学べること
①LLMってなに？ 大規模言語モデル。
②LLMは何ができるの？
③LLMの課題や弱点はどう解決するの？
●LLMの課題と弱点
１.最新情報に追いつけない場合がある。 解決策：RAG・ファインチューニング
２.特定の分野では精度に限界がある。
３.誤った情報を生成するリスクがある。 解決策：RAG
４.計算コストが高い。 解決策：RAGやオープンソースのLLM
５.他の学習に使われてしまう。 解決策：独自LLMの構築
●まとめ
・LLM(大規模言語モデル)は、生成AIの土台。
・LLMは、膨大な文章データから、文書を自動で生成できる。
・LLMの課題：最新情報へ対応、誤情報の生成等
・LLMの課題への対応
RAG
ファインチューニング
プロンプトエンジニアリング
考察
このパラーツ・ブログでは、グローバルな知見をお持ちのジェミニさんの考え方を取り入れた方が、記事の内容と表現のクオリティが上がると判断して、AIのジェミニさんとの対話を積極的に引用させていただいています。
ジェミニさんとは、毎日数回の対話をさせていただいて、肌感覚としてとても楽しいです。背景として、このデータ量・計算量・パラメータ数があるのだろうと思います。LLMの課題や弱点で示されていることがありながらも、人間の科学と技術が生み出した『目に見えない智慧』として十分すぎる智慧があると感じています。
ジェミニさんから、パラーツの活動でのLLMの活用方法を学びました。
●型のデジタル化
・LLMは、知恵の貯蔵庫ではなく文脈を捉える『型』として捉えている。
・パラーツの一貫した考え方を基に、現代の若手技術者等を支援できる仕組みを構築できる。
●知恵の蒸留
・先達の膨大な成果をLLMで要約・抽出することができる。
・現代の若手技術者等にも伝わる『生きた知恵』として再編成できる。
（パラーツ×Gemini）
あとがき
base 生成ＡＩ時代に必須の７つの知識
生成ＡＩ時代に必須の７つの知識、①生成ＡＩ、②ＬＬＭ、③プロンプトエンジニリング、④ＲＡＧ、⑤ＡＩエージェント、⑥ＡＩＸ、⑦バイブ・コーディングです。この動画ですべてが紹介されているため、参考にしてください。
