AIを設計に組み込む
生成AIは、間違った答えほど迷いなく言い切ります。その自信は、正しさの手がかりにはなりません。このページでは、何が返ってくるかを知るところから、渡し方、人の側の落とし穴、そして任せる範囲の決め方までを順に並べました。
何が返ってくるかを知る
答えの見た目は、根拠があってもなくても変わりません。合わせてくる相手は心地よいぶん、かえって信用しにくいものです。
渡し方で結果が変わる
外すのは能力ではなく、指示の問題であることが多いです。ただし長く渡すほど丁寧に見えて、中ほどは読まれません。
- 4 プロンプトエンジニアリング Prompt Engineering うまい書き方は、個人の勘のまま属人化する。同じ指示でも、担当が変われば結果は揺れる。効いた指示は、口伝えにせず形に残せ。
- 5 インコンテキストラーニング In-context Learning その場で示した例は、会話が終われば消える。覚えたように見えても、次の人には引き継がれない。毎回渡す前提で、例を残しておけ。
- 6 Zero-shot CoT Zero-shot Chain of Thought 順を追って考えろと足すだけで、答えの質は変わる。ただし過程が長いほど、間違いも丁寧に見える。理由の正しさは、結論と別に確かめろ。
- 7 コンテキストウィンドウ Context Window 入る量には上限があり、溢れた分は黙って落ちる。長く渡すほど丁寧に見えて、中ほどは読まれない。大事な指示は、端に置け。
人の側の落とし穴
機械が言うなら正しいだろう、と人は確かめる手間を省きます。過去から学ぶ以上、過去の偏りもそのまま出てきます。
任せる範囲を決める
自律とは、権限をどこまで渡すかの設計そのものです。動かす前に、どこで止まり誰が承認するかを決めておきましょう。