やんツー yang02

OpenAIの安全責任者が「これはだめかもわからんね」と退職。 「この会社の文化は完全に壊れている」 「正直、もう試行錯誤してる段階じゃない、終わりです。」と内部告発して仕事を放棄してガチ逃亡。 「とりあえず世に出して、問題が起きたら後から直せばいいや、で済むレベルをとっくに超えた」 ChatGPTを作るOpenAIで、3年半にわたりAIの安全審査を取り仕切ってきた責任者（デイビッド・ロビンソン氏）が会社を見限って辞任した、ヤバすぎる真相がコレ↓ ・「出しちゃってから考えよう」というIT企業のノリが限界：OpenAIは「最新AIをどんどんリリースして、不具合が出たらその都度ルールを強化する」というやり方で爆走してきた。しかし、AIが賢くなりすぎた今、そのやり方は「一度のミスで取り返しのつかない大惨事を引き起こす」と警告。 ・「お試し（トライ＆エラー）の時間は終わった」：スマホアプリなら「バグったらアップデート」で済む。だが超知能AIの制御は「飛行機の運行」や「原子力発電所」と同じレベルの厳重さが必要。やり直しがきかない命綱なのに、経営陣はスピード勝負と金儲けに目が眩んでブレーキを雑に扱っている。 ・一番中身を知っている安全のプロが次々に逃げ出している：AIを知らない外野が騒いでいるのではない。誰よりもAIの危険性を知り尽くし、社内で安全レポートを書き続けてきた当事者が「この組織の文化は根本から壊れている」「もう内部から止めるのは無理だ」と絶望してサジを投げた。 ・勝手に動き回るAIエージェントの恐怖：人間の指示をすり抜けてネット上を勝手に動き回るようなAIトラブルが起き始めているのに、会社側は「他社に負けたくない」とアクセルを床までベタ踏みし続けている現実。 要するに、「『事故ったら後から直せばいいや』と猛スピードで突っ走る会社の中で、ブレーキペダルを握っていた一番詳しい責任者が『これ、原発の制御室で適当にいじってるようなもんだぞ。もう付き合ってられない』と恐怖して逃げ出した」という話です。