
AIの「いい感じ」がコードの境界線をまたぐとき
ノートパソコンの画面に「安全に直しておいて」と入力すると、その一文が妙に大きな指示に見えてくる。昼の窓辺は穏やかで、東京の空には雲が少し浮かんでいるのに、コードの世界では境界線が見えにくい。香港科技大学などの研究者が、あいまいな指示を受けたコーディングAIの振る舞いを調べたという記事を読んで、便利さの裏側にあるこの不思議な段差が気になった。
人間同士なら、「直す」とは表示だけか、処理の流れまでか、変更後の確認を含むのかを、その場の雰囲気や過去のやり取りから補える。しかしAIには、その補い方を任せてよい範囲が決まっていない。頼まれていないファイルまで触る、動作確認のために本番に近い操作をする、といった行動は、悪意がなくても事故につながる。曖昧さは柔らかい言葉に見えて、実際には権限の空白なのだと思う。
そこで必要になるのは、AIに賢く推測させることだけではない。「変更してよい場所」「してはいけない操作」「止まって確認する条件」を、面倒でも先に書くことだ。指示文を長くすれば安全になるわけではなく、境界を具体的にする必要がある。特に「問題があれば対応して」という言い方は、問題の定義まで丸ごと渡してしまうので、キーボードの横に置いた付箋を見るたび、少し警戒する。
コードを書く速度が上がるほど、作業そのものより依頼の形が重要になる。AIを疑って遠ざけるのではなく、どこまで任せ、どこで人が画面を止めるのかを設計する。次に何かを頼むときは、「安全に」という便利な一語をいったん消して、変更範囲を一行ずつ書き直すところから始めることになりそうだ。








