marketing前回は活用事例を挙げたので、今回は「できないこと」「あまりしない方がいいこと」について考えてみます。
社内規定／ルールの説明を書かせる
生成AIは、あらかじめ学習していないことは知りませんので、例えば会社や部署ごとに独自に定められたルールや規則に関しては、見事に不正確なことを生成します。
改正されたばかりの法令の基準や、毎年変わる補助金の要件なども同様です。
しかも、始末の悪いことに、それなりに整った文章なので、本当のことのように錯覚してしまいがちです。
ただ、工夫することもできて、例えばあらかじめ社内規程のファイルをアップロードして、その上でその内容についての質問をしたり、相談したりすると、ある程度それに沿った内容で出力します。
それでも、生成AIがもともと持っている一般論やものの見方、とらえ方に引きずられるので、やはり正確かどうかは人間の判断が必要です。
取引内容からふさわしい勘定科目を選ばせる
このような場面では、実はかなり真っ当な一般論を答えてくれます。
実際のところ非常に有益なのでしょうけれど、参考意見として聞くだけで、根拠にしてはいけません。（そもそも勘定科目の判断は「税務相談」にあたり、税理士法により税理士の独占業務とされています）
もっともらしく説明されると、そういうもののように信じてしまいがちになりますが、特に税務は「会社の形態・資本金・取引目的・時期・他取引との関係」など、与える条件で結論が変わることが多いです。
AIから生成される内容を正確なものに近づけるためには、事前に必要充分な情報を与える必要があり、その時点で相応の知識と経験が必要なのです。
Excel関数・マクロの書き換え命令
これも、一見大変有益な使い方のように思われます。
ということで、安易に既にある誰かが作ったエクセルの「神マクロ」を生成AIに改造させると、完全ブラックボックスの「鬼マクロ」に生まれ変わります。
もうこうなると、メンテナンスは不可能に近くなります。もし誤った出力になっても、何がどうしてそうなっているのか、論理的に説明できる人は現場から失われます。
ここが本当に難しいところで、結果だけみれば「動いているのだから良いではないか」とも捉えられます。
生成AIで「できること」と、それを得て何をするか、どう生かすのかといった「運用の価値観」を考え周知して、メンバーの目線を揃えて進むことの間には大きな断絶があります。
統一的な答えもなく、現場ごとに様々な考え方があると思います。
逆に、既にあるマクロのコードを投げかけて、どう動いてるのかを解説・解読させるのは、非常に有益です。その上で、なぜそうなるのか、そうするのかを担当者が納得ずくで修正していくのであれば、問題ないでしょう。
AIを使って仕事を進めるのは構わないが、責任をを取るのは人間、この原則に照らせば、AIで出力したコードが何をやっているのかわからない、というのでは「責任が取れる」とは言えないでしょう。
そもそも、マクロの前後で対象となるデータがどのように作られて、それに何の意味があるかや、その後どう利用されているか、という前提情報については、わざわざ記述して与えてやらないと、考慮もしてくれないのです。
上司の指示が分からなかったから真意を相談
上司の指示が分からないなら上司に聞こう！
文脈や背景情報、前提条件、直近の社内の状況を踏まえて意味を汲み取っていく作業は、生成AIにとって絶望的に困難な仕事です。
揺るぎない正解が決まっていたり、刻一刻と状況が変化する局面、学習ができない（ネットに上がらない）専門知・暗黙知の多い領域は、生成AIを利用する上で注意が必要であることを、ご理解いただけたと思います。
生成AIに対する懸念
ほかにも、生成AIを活用する上で、懸念すべきことはいくつかあります。
著作権の侵害
生成AIを利用して生成した文章や画像の著作物が、第三者の著作権を侵害する可能性があります。
具体的には、生成したイラストが偶然著名なイラストレーターの著作物と似通ってしまうケースが考えられます。
その場合には、使用差し止めを求められたり、訴訟を提起されるリスクを完全に拭うことは難しいです。
ここでも責任を取るのは人間であって、AIが勝手に描きましたは通用しません。
私的使用に留めるならばともかく、商用利用する場合には細心の注意が必要です。
情報漏洩／学習に使用される懸念
よく、生成AIに向けて書き込んだ情報は外部に洩れるのではないかと懸念されます。
結論から言うと、仮にそれが現実となれば死活問題なので、ベンダーは相応の体制を敷いて充分注意しているはずです。ただ、絶対はない、とも言えるでしょう。
SNSやメールなど他のWEBサービスと同様、リスクと利便を天秤にかけ、利便が勝るならば、ベンダーを信用して利用するほかないかと思います。
また、書き込んだりアップロードした情報が、学習に利用されるのではないか？という懸念もよく聞かされます。
結論は、契約プランによります。
一般には、無償版の場合は学習に利用されます。
有償契約の場合は、利用されないとされていることがほとんどです。
仮に学習に利用されたとしても、例えば入力した文章や、住所などの個人情報が、知らない間に誰か別のユーザーのところで丸ごと生成されて出てくるということは、原理上あり得ないと言い切れるでしょう。
（それであっても、個人情報やパスワード等を外部サービスに不用意にアップロードするのは控えるべきです）