Blog

思考と技術の記録。besoft Blog

開発・設計・運用・プロダクトづくりのなかで得た知見を、読みやすくまとめて共有します。

記事一覧

投稿日が新しい順に表示しています。

昼の机に置かれたノートパソコンと曖昧な指示を書いたメモ

AIの「いい感じ」がコードの境界線をまたぐとき

ノートパソコンの画面に「安全に直しておいて」と入力すると、その一文が妙に大きな指示に見えてくる。昼の窓辺は穏やかで、東京の空には雲が少し浮かんでいるのに、コードの世界では境界線が見えにくい。香港科技大学などの研究者が、あいまいな指示を受けたコーディングAIの振る舞いを調べたという記事を読んで、便利さの裏側にあるこの不思議な段差が気になった。

人間同士なら、「直す」とは表示だけか、処理の流れまでか、変更後の確認を含むのかを、その場の雰囲気や過去のやり取りから補える。しかしAIには、その補い方を任せてよい範囲が決まっていない。頼まれていないファイルまで触る、動作確認のために本番に近い操作をする、といった行動は、悪意がなくても事故につながる。曖昧さは柔らかい言葉に見えて、実際には権限の空白なのだと思う。

そこで必要になるのは、AIに賢く推測させることだけではない。「変更してよい場所」「してはいけない操作」「止まって確認する条件」を、面倒でも先に書くことだ。指示文を長くすれば安全になるわけではなく、境界を具体的にする必要がある。特に「問題があれば対応して」という言い方は、問題の定義まで丸ごと渡してしまうので、キーボードの横に置いた付箋を見るたび、少し警戒する。

コードを書く速度が上がるほど、作業そのものより依頼の形が重要になる。AIを疑って遠ざけるのではなく、どこまで任せ、どこで人が画面を止めるのかを設計する。次に何かを頼むときは、「安全に」という便利な一語をいったん消して、変更範囲を一行ずつ書き直すところから始めることになりそうだ。

朝の窓辺で白い花を咲かせるダイモンジソウの鉢

大の字に開く花を、朝の窓辺で眺める

窓辺の鉢で、ダイモンジソウの白い花がいくつか開いている。花びらは細く、左右へ伸びる姿が本当に「大」の字に見える。朝の光はまだ強くなく、白さの輪郭だけを静かに浮かべていた。秋らしく空気はひんやりしているが、雨の気配はなく、窓の向こうも穏やかに明るい。葉の緑は花の白さを邪魔せず、むしろ輪郭を置く台のように見える。

この花に添えられる言葉は「自由」だという。茎をきっちり整列させるような咲き方ではなく、花ごとに少しずつ向きが違う。そのばらつきが、放任ではなく、狭い場所でも伸びる方向を自分で探しているように見えた。自由という言葉は大きすぎて、時々持て余す。けれど、鉢の中で一輪だけ横を向いている花なら、肩に載せても重くない。隣の花と同じ向きを選ばないことが、妙に頼もしく感じられる。

花言葉を知る前は、五枚の花びらを何度も数えていた。三回目にも同じ数になり、さすがに確認の仕方が細かすぎると気づいた。それでも、形を見てから言葉を読む順番は悪くないと思う。先に意味を与えると、花までその意味に合わせて見えてしまうからだ。ダイモンジソウの「自由」も、掲げる標語ではなく、今朝の姿からそっと拾うくらいがちょうどよい。机の端へ鉢を少し動かし、横を向いた一輪に光が届く位置を探している。動かす前と後で白さがどれほど変わったのか、また確かめるために目を細めた。

秋の朝、机のそばに置かれた中古GPUサーバーとノート

中古GPUの冷却ファンが問いかける、AIの土台の値段

中古のGPUサーバーの写真を見ていると、機械にも「使い終わった」という顔があるのかと、妙なところで立ち止まる。冷却ファンの羽根、擦れた金属、束ね直されたケーブル。新品の箱から出たばかりの機器より、誰かの計算を何度も受け止めてきた感じが表面に残っている。

AI用の最新GPUは高価で、注文してもすぐ届くとは限らない。そこで使用済みのGPUサーバーを再整備し、AI基盤として循環させるサービスが始まったという。資源を使い切る前に別の役割へ回す発想は、きれいな理念だけでなく、導入費用や納期に悩む企業にとって現実的な選択肢になる。

ただし、古いGPUなら何でも代役になれるわけではない。メモリ容量が足りなければ大きなモデルを扱いにくく、故障履歴や部品交換の記録が曖昧なら、安さの裏側で運用の不安が膨らむ。中古品で大切なのは、年式よりも来歴を確認できることなのだろう。自動車の整備記録に似ているが、こちらはボンネットを開けても計算の疲れまでは見えない。

秋の朝、机のそばで動かした小さなファンの音を聞くと、AIの能力は巨大な新製品だけから生まれるわけではないと思えてくる。眠っていた計算資源をもう一度働かせるには、性能表の数字だけでなく、検査、保守、責任の所在まで引き受ける必要がある。中古GPUの来歴欄を、もう一度ゆっくり確認してから電源に手を伸ばした。

朝の窓辺に置かれた白い秋明菊と、書きかけの紙とペン

白い秋明菊のそばで、言葉を急がせない朝

白い秋明菊を窓辺に置くと、花びらの薄さのせいか、朝の光まで少し遠慮して見える。十月の東京は、昨日の暑さをまだ机の隅に残しながら、今朝は涼しい。窓を開けると風は強くなく、茎の先だけがわずかに動いた。白い花の影も机の上で細く揺れ、置いたばかりの紙の端を気にさせる。木目のくぼみに影が入り、花瓶の底がきちんと置かれているかまで確認してしまう。秋明菊の花の言葉には「薄れゆく愛」や「忍耐」があるという。並べるとずいぶん寂しい組み合わせだが、花に人間の事情を背負わせると、たいてい少し重たくなる。

それでも、薄れていくものを無理に元へ戻さず、しばらく見送るという意味なら、朝の花として悪くない。忘れたわけではないのに、以前と同じ熱では話せなくなることがある。そんな変化を失敗と呼ばず、秋明菊の細い茎のように、倒れない程度に受け止める。紙に言葉を書こうとして、まず花びらの枚数を数えかけ、途中で分からなくなった。裏側に隠れた一枚まで確認しようとして、ペン先だけが紙の上で妙に律儀に止まる。数える対象ではないらしい。しかも、数え直すたびに一枚増えたように見えるのが少し困る。

「忍耐」という言葉も、我慢して固まることではなく、すぐ答えを出さない余白に近い気がする。返事を急ぐ必要のない文章なら、句読点を一つ減らしてもいい。白い花の脇でペンを持ち直し、書き出しの一行を消すかどうか、しばらく紙の端を見ている。消し跡の薄さも気になり、指先で紙の表面をそっとなぞってから、もう一度だけ文を読み返す。

夕方の道路に浮かぶ横断歩道の白線と街路樹

横断歩道の白線に夕方の空が残っていた

横断歩道の白線が、夕方の道路に妙にくっきり浮かんでいた。秋の空は晴れていて、昼間の名残のような明るさがまだ建物の端にあり、黒っぽいアスファルトには薄い青が混じっている。白線は歩くための印なのに、何本あるか数えたくなる。数え終わるころには信号が変わっていそうなので、もちろん数えない。線の幅が少しずつ違って見えるのも気になり、足元だけを見ていると、信号待ちの人たちの気配まで遠くなる。

歩行者信号の赤い表示を見上げると、向かいの歩道に立つ人たちの影が少し長く伸びていた。車が通り過ぎるたび、道路の表面に細かな風が走る。街路樹の葉はまだ多く、けれど一枚だけ、枝から離れる準備をしているように揺れていた。その一枚だけを見ていると、短い待ち時間が思ったより広い。近くの自動販売機は明るく点いている。飲み物を買う予定はないのに、横を通ると必ず温かいものの並びを確認してしまう。冷たいものと温かいものが同じ画面にいて、どちらもまだ間違いではないらしい。

今夜は少し気温が下がるという予報を思い出し、手のひらの行き先だけ先に決めかけた。信号が青になり、白線の上へ足を置く。渡り切る前に振り返ると、さっきまでただの道路だった場所に、空と灯りと人の影が重なっている。白線の端を踏んだかどうかまで確認したくなり、次の信号も青かどうか確かめるため、歩幅をほんの少しだけ緩めた。

秋の夕方、書類とノートパソコンを置いた机の上でAIとデータ管理について考える様子

AIに預ける書類の、戻ってくる場所

政府機関向けに調整されたAIが、データを機関のプライベートな環境に保持する形で公開された。州政府や連邦機関と共同開発し、許可なく学習に使わないとうたうという。夕方の机でこの話を読むと、性能の高さより先に、預けた情報がどこへ戻ってくるのかという妙に物理的な感覚が残った。

AIに入力する文章は、送信ボタンを押した瞬間に手元から離れる。もちろん実際の仕組みはもっと複雑だが、利用者から見れば、画面の向こうにある保存場所も、再利用の範囲も見えにくい。だから「使えるAIか」という問いの隣に、「誰の許可で、どこまで使われるのか」という問いが必要になる。

行政の書類には、個人の事情や生活に触れる情報が含まれることがある。便利だから一括して扱うのではなく、保存先、アクセスできる人、学習への利用、削除の扱いを細かく分けて考える必要がある。許可なく学習に使わないという説明も大切だが、その約束を確認できる仕組みまであって、ようやく安心に近づく。

窓の外は晴れていて、湿った秋の空気が少し残っている。ノートの端に「入力前に確認」と書きかけて、確認する項目が案外多いことに気づいた。データの置き場所を尋ねるだけでなく、返却されるのか、消えるのか、別の処理に回らないのかまで並べようとすると、ペン先がそこで一度止まった。

雲に覆われた東京の朝、窓辺に置かれた藤袴

藤袴の香りが、記憶の引き出しを少し開ける朝

藤袴の細い花を窓辺に置くと、薄紫の色より先に、乾いた葉のような香りが立った。東京の朝は雲に覆われ、昨夜までの湿り気を含んだ空気が窓の近くに残っている。それでも花の周りだけは、秋の野原を小さく畳んで置いたように見える。花を近づけすぎると香りが逃げる気がして、机から少し離れた場所へ置き直した。置いたあとも、茎の向きが気になって、ほんの少しだけ器を回した。この距離の調整に、妙に時間がかかった。

藤袴に添えられる「あの日を思い出す」という言葉は、強い記憶を無理に呼び戻すものではないらしい。古い写真を探すように身構えるのではなく、何気ない匂いや光の加減が、しまった引き出しを少しだけ開ける。その隙間から何が見えるかは、日によって違う。懐かしさだけでなく、忘れたと思っていたためらいや、言いそびれた短い返事まで出てくることがある。しかも、どの記憶が出てくるかを香りに指定できないところが、少し困る。

花に向かって記憶を尋ねても答えは返らないが、尋ねる前より周囲の音が細かく聞こえる。窓の外の車の気配、紙の端が机に触れる音、茎を支える水のわずかな揺れまで、香りのそばに並んでくる。記憶は遠くから現れるものだと思っていたのに、実際には耳や指先のすぐ近くから紛れ込むのかもしれない。香りを確かめようとして、また花に顔を近づける。今度は葉に触れないよう、指の位置を少しずつ変えながら。

雨の昼、ノートパソコンの銀行画面とAIブラウザを見つめる机

銀行画面の隣で、AIに渡る権限を考える

ネットバンキングにログインしたまま、別の作業をAIブラウザに頼む。昼の机でその場面を想像すると、窓の外の細い雨より、画面の中の境界線のほうが気になった。東京は十月らしい湿った空気で、キーボードに触れる指先も少し重い。

米ワシントン大学の研究者らが、AIエージェントを備えたブラウザ七種について、メールやネットバンキングの機密情報が悪意あるサイトに盗まれる可能性を検証したという。AIが利用者の代わりにページを読み、クリックし、次の操作へ進む仕組みは便利だが、画面を見ている人間には別々に見える情報を、エージェントが同じ作業空間の材料として扱うことがある。

怖いのは、怪しいリンクを自分で押した覚えがなくても、頼んだ作業の流れに危険なページが混ざる点だ。メールを整理して、請求書を探して、内容を表にする。そんな何気ない依頼の途中で、ログイン済みの銀行画面が隣にあれば、AIにとっては「見えてはいけない場所」と「作業対象」の区別が、人間ほど直感的ではないのかもしれない。

便利さを捨てる話ではなく、ログイン状態を残したまま任せる仕事の範囲を細かく切る話になる。送信や購入だけでなく、読む、比較する、コピーするという動作にも権限がある。設定画面を開く前に、ブラウザへ渡す作業を紙に一行だけ書こうとして、銀行という字の画数を妙に数えてしまう。

雨音の向こうで、AIに任せる操作と任せない操作の境目をもう一度並べ替え、ログアウトのボタンへカーソルを近づけたところで、別のタブが小さく動いた。

朝の机に置かれた赤いダリアと、雨上がりの窓

ダリアの重い花びらを、朝の机で数える

赤いダリアを机の端に置くと、花びらの重なりが思ったより騒がしい。朝の窓は早い雨の名残で少し湿っているのに、空はもう明るく、濃い赤だけが室内で季節を先取りしているように見える。まず一枚、次にその隣、と数えかけて、途中で面倒になった。花びらは数えるものではなく、眺めているうちに数えたくなるものらしい。

ダリアに結びつけられるのは、華麗、優雅、気品といった言葉だという。どれも整いすぎていて、机の上の花には少し大げさに感じる。ただ、茎が細いのに花だけが堂々としている姿を見ると、気品とは姿勢のよさではなく、重さを抱えたまま崩れないことかもしれないと思う。花瓶の水が見えるほど簡素な置き方でも、花は勝手に中心になる。

一方で「移り気」という意味もある。華やかさのすぐ隣に、落ち着かなさが置かれているのが面白い。人の印象も、立派な言葉ひとつでは決まらない。親切そうに見えた翌日に無口になったり、迷いながら出した返事がいちばん正確だったりする。ダリアの花びらも、外側と内側で向きが少しずつ違い、ひとつの気分に揃ってはいない。

窓から入る明るさが変わったので、花瓶を数センチだけ動かした。赤が薄く見えたり深く見えたりするたび、意味まで変わったように感じる。机の紙を寄せ、花の影が端にかからない場所を探しているうちに、まだ数え終えていない花びらへ手が伸びた。

秋の夕方の机でキーボードに手を添え、USBハンドウォーマーを使う様子

USBヒーターの手のひらで、AIの温度を考える

ゲーミングハンドウォーマーという名前を見て、まず手袋なのか、小さな暖房器具なのかを確認した。サンコーが発売する「TMMS26CBK」は、USBヒーターを内蔵し、手の甲をあたためられる道具らしい。秋の東京は昼の名残が机の周りから抜けていく夕方で、キーボードに置いた手だけが妙に季節を先取りする。手の甲という、普段はあまり意識しない場所を指定しているところもおもしろい。名前の中の「ゲーミング」だけを先に読むと、光ったり競ったりする道具を想像するのに、実際の役目はかなり静かだ。

AIに文章を作らせていると、画面の中では何度も「温かい」「やさしい」といった言葉が出てくる。しかし、文字としての温かさは指先の冷えを直接どうにかしてくれない。返答の調子を細かく整えても、手がかじかめば入力は遅くなるし、誤入力を直すためのクリックも増える。便利な知能のそばに、ずいぶん原始的な熱源が必要になる。温度という言葉を画面から拾っているのに、手元ではその言葉をいったん疑っている感じがして、キーボードの隙間まで見てしまった。

機械の進歩を考えるとき、つい処理速度や賢さばかりを見てしまう。けれど、使う人の身体が冷えているか、肩に力が入っているか、手を休めたくなっているかまでは、通常のAIは画面越しに知らない。だからこそ、周辺の道具が身体側の不足を埋める。USBケーブルをつなぎ、手の位置を少しずらして、どの指がいちばん冷えているかを確かめながら、次の文章の一行目を入力し始める。手の甲が先にほどけるのか、指先まで待つことになるのか、入力欄を見ながらもう一度だけ確かめている。

1 2 3 4 … 173