やたらと難しい法律やら規則やらを理解してこなさなければならない仕事をすることになってしまったので、専門家を雇うのも余計な手間だし、自分で速読でガンガン理解して事を運んでもいいのですが、さすがに何十篇もある法律やら地方自治法やらの契約から訴訟から刑法まで引っ張り出して脳ミソに叩き込むのも流石にしんどいと思いまして、pythonでそんな面倒な文章を丸暗記させて人が質問したら即回答してくれるシステムを構築しようとしました。
とりあえず深層学習ならテンソルフローだろうと思ったのですが、なんとなく初心者向きで日本語にも特化したモデルがあるということで、PyTorchを選択し、日本語に特化したT5を導入することにしました。T5はText-to-Text Transfer TransformerからTが５つでT5というナイスで単純なネーミングですが、流暢な日本語対応には定評ということで、期待して導入に踏み切りました。
なにせ、ただpythonに回答させただけでは、８００字のおせち料理に関する解説書を読み込ませた後に「おせち料理ってなに？」と聞いても「・・・・一重」と答えるだけというおバカぶりだったので、深層学習なくして、まともな回答を貰えるわけがありません。PyTorchを導入するにあたり、最新のPython3.13ではサポート外ということだったので、これまでのPython環境を全て投げ捨てて、わざわざPython3.11をインストールし直して取り組むことにしました。そこに至るまでにPython環境が悪化するし、深層学習系は依存モジュールが大量にあるため次から次へと関連モジュールをpipでインストールしたりと大変だったのですが、とりあえずT5が動くようになりました。
しかしそれでも学習前のT5に「おせち料理には何が入ってるの？」と聞いた答えは「砂蔭蔭蔭蔭蔭蔭蔭鍛新居の活躍は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約は約捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨捕鯨」という訳の分からないもの。キチガイですか。
このおバカ回答が深層学習を通じてどのくらいまで成績が良くなるのか？
深層学習にはとりあえずFineTuningの.pyを作って、500～1000の質問と回答のペアをCSV化して読み込ませなければいけません。
例としてはこんな感じ。
--------------------------------------
空が青いのはなぜ？,太陽の光が大気中で散乱するからです。
電気を通さない物の例は？,ゴムやプラスチックです。
日本の国旗に描かれている形は？,赤い丸です。
学校の勉強で使う三角の道具は？,三角定規です。
九九の7の段を言ってみて！,7, 14, 21, 28, 35, 42, 49, 56, 63, 70, 77, 84です。
雨の日に使う道具は？,傘です。
うさぎの耳は長い？短い？,長いです。
お米は何から作られますか？,稲です。
日本のお正月に食べるお餅の形は？,丸い形や四角い形です。
地図で青色は何を表していますか？,海や川を表しています。
信号の緑は何を意味しますか？,進めを意味します。
------------------------------------------
等々。まるで小学校ですね。多分ここで少しハズれた内容を学習させると、お笑いに強いPyTorchになるんでしょうね。
------------------------------------------
漫才とは何ですか？,2人で行うお笑いの形式で、ボケとツッコミが特徴です。
コントとは何ですか？,短いお芝居を使ったお笑いの形式です。
ツッコミの役割は？,ボケに対して指摘や反応をして笑いを作ります。
ボケの役割は？,ユーモラスな発言や行動で笑いを誘います。
漫才師が舞台に立つときの挨拶は？,「どうも、よろしくお願いします」です。
笑いの神様と言われるのは誰？,松本人志さんやビートたけしさんなどが挙げられます。
日本で有名なお笑いコンビは？,ダウンタウンやサンドウィッチマンなどです。
「ネタ」とは何ですか？,芸人が舞台で披露する内容やストーリーです。
一発ギャグとは？,短いフレーズや動作で笑いを取るギャグです。
「スベる」とは何ですか？,お笑いのネタが受けず、観客が笑わないことです。
「アドリブ」とは何ですか？,台本にない即興の発言や行動です。
「お笑い第7世代」とは？,2010年代後半から活躍する若手芸人を指します。
---------------------------------
等々。いや一体なにを答えさせたいんだよと。答えは法律なんですけどね。
他にスポーツやら芸能やら政治やら地理歴史に世界を広げていきます。
そして学習専用の.pyを作成して実行。ということで、さすがに夜中までやってたら眠くなってきたので今夜はここまで。明日以降のお楽しみです。
