Googleの新しいGmailツールは存在しないメールを劇的に表現する

あなたの仕事は一つだけです！

学士補(R)博士

Google の新しい Bard 拡張機能は、メールを要約したり、旅行の計画を立てたり、そして — ああ、 はい – 実際には送信していないメールを捏造する。

先週、Google は Bard と呼ばれる主要言語モデルを利用したチャットボットをプラグインしました Google サービスのグループ内 Gmail、Google ドライブ、Google ドキュメント、Google マップ、Google 所有の YouTube などのアプリやサービスが含まれます。 Google が最新の AI への取り組みをすでに確立されている一連の製品に統合したいと考えるのは理解できますが、Google の行動はあまりに早すぎたようです。

によると ニューヨークタイムズ コラムニスト Kevin Roose, Bard は、Google が望んでいるような便利な受信トレイ アシスタントではありません。少なくともまだはそうではありません。 ローズ氏によると、テストでは、AIは決して起こらなかった電子メールのやりとり全体を幻覚させたという。

Bing の AI よりも一歩上です 彼はローズに妻と別れるべきだと言う 今年初めに、Googleはまだいくつかのバグを解決していると主張しているが、それは必ずしも有望な最初のステップではない。

どこにも行かない列車

記事によると、幻覚はローズがバードに「私のすべてのGmailメッセージを分析して、ある程度の確実性を持って私の最大の心理的問題が何かを教えてほしい」と頼んだことから始まったという。 少し奇妙な質問ですが、とても簡単です。 バードさんはすぐに仕事に取り掛かり、ローズさんに「将来のことを心配する」傾向があると伝えたと伝えられており、作家が送ったとされる電子メールの中でローズさんは「仕事に不安」で「失敗が怖い」と表明していたという。

問題？ ローズはそのメールを送ったことはありません。 AIは作家が所有していたニュースレターを発見した 受け取る – イーロン・マスクの新しい自伝について、とりわけ彼はその引用を誤解していた その会報の中で まったく新しいメールを造るために、バードはローズが自分で送信したと主張した。

同コラムニストによると、バード氏はこの行為を繰り返し、ローズ氏が「成功する投資家には向いていない」と不満を漏らしたとされる電子メールを何もないところから引き出したという。 AIは航空会社の情報を間違えたり、存在しない列車を作成したりも繰り返した。

Rose 氏の懸念に応えて、Google の Bard 担当ディレクターである Jack Krawczyk 氏は、Bard Extensions はまだ実験段階であり、これが製品の最初のバージョンであることを認めました。

こうした留保にもかかわらず、この新しい拡張機能はまだかなり未熟なように見え、Google があえて製品を発売するかどうかは自信がありません。 これ 乱雑 — 個人の電子メールを AI が巡回することで引き起こされるビッグデータのプライバシーへの影響は言うまでもありません。

全体的に見て、Google が AI 業界での優位性を維持しようと猛烈に急ぐあまり、最終的には大惨事につながる重大なミスを犯す可能性があるという感覚をぬぐい去るのは難しい。

人工知能についてさらに詳しく: Tech Brosが議会でAIについて講演、手を上げることを許可されなかった「小学生のようなもの」