3月
【４２１】 2023年3月6日付 フィンテック最新事情（279）
スター・ウォーズかブラック・ミラーか？ ChatGPT
サイバーセキュリティにおける最新のテクノロジーについてのCheck Point主催のグローバルイベントCPX 360が2月9日にニューヨークで開催され、「ChatGPTはサイバーセキュリティにおける『スター・ウォーズ』か『ブラック・ミラー』か？」のタイトルでインフォメーション・ウィークから概要が報道されたので紹介する。
最初に、ニュースのタイトルの意味をChatGPTに聞いてみた。すると、「ChatGPTはサイバーセキュリティにおける『スター・ウォーズ』か『ブラック・ミラー』か」というタイトルは、スター・ウォーズとブラック・ミラーという2つの人気文化作品の比較と、サイバーセキュリティの分野との関連性を示唆しています。スター・ウォーズは、架空の宇宙を舞台に、悪の帝国と戦うヒーローたちを描いたSF作品です。英雄主義、冒険、悪に対する善の勝利といったテーマと関連付けられることが多い。サイバーセキュリティにおいては、スター・ウォーズへの言及は、潜在的な脅威からシステムを保護し、脆弱性を特定して無力化し、サイバー攻撃を未然に防ぐといったプロアクティブな対策への注力を示唆しているのかもしれません。
……続きは本紙で。
【４２２】 2023年3月13日付 フィンテック最新事情（280）
AIにはAIで対抗 ChatGPT悪用対策
これまで筆者は突然登場したChatGPTの有用性に焦点を当て、特に金融サービスの面でChatGPTがどのように使われていくのかについて強い関心を持っていた。従って、ニュースで出回るChatGPTは間違った情報を使っているなどの否定的な面についてはあまり真剣に考えてこなかったが、前421号の記事内でまとめられているように、テクノロジーの暗黒面や社会に対して潜在的な影響を及ぼす“ブラック・ミラー”の実態がVenture Beat（2月28日付）から報道されたのでその概要を紹介する。
その記事の冒頭には、「ChatGPTとジェネレーティブAIは、セキュリティチームの生活を困難なものにしている。ハッカー志願者は、簡単なプロンプトを書くだけで、数秒でフィッシングメールのテンプレートを生成し、無数の無防備なユーザーに送信して、悪意のあるリンクや添付ファイルをクリックするミスを犯させることができる」というコメントに続いて、「11月にChatGPTがリリースされた後、フィッシング詐欺が増加傾向にあり、脅威の検出と対策における世界的リーダーVadeが出している 『Q4 2022 Phishing and Malware Report』によると2022年第3四半期の7440万通に対し、第4四半期は2億7830万のユニークなフィッシングメールを発見した。これらの攻撃は、低労力かつ高リターンであるため、信じられないほど人気がある。例えば、個人が偽のOffice 365ログインフォームを作成し、フィッシングメールのテンプレートを無防備なユーザーに送信し、ログインしようとするユーザーのアカウント詳細を採取することができる。もしユーザーがたった一度でも詐欺メールを額面通りに受け取ってしまったら、何百万円もするデータ漏洩を引き起こすかもしれない。ジェネレーティブAIの活用が進む中、従業員がさらされる脅威の量は増える一方だ。ChatGPTのようなジェネレーティブAIはすでに脅威の担い手によって、独自に調整された何千ものフィッシングメッセージを自動化するために使用されている。さらに、それらのメッセージの何千ものバリエーションを作成し、成功率をさらに高めることができる」と言われている。……続きは本紙で。
その記事の冒頭には、「ChatGPTとジェネレーティブAIは、セキュリティチームの生活を困難なものにしている。ハッカー志願者は、簡単なプロンプトを書くだけで、数秒でフィッシングメールのテンプレートを生成し、無数の無防備なユーザーに送信して、悪意のあるリンクや添付ファイルをクリックするミスを犯させることができる」というコメントに続いて、「11月にChatGPTがリリースされた後、フィッシング詐欺が増加傾向にあり、脅威の検出と対策における世界的リーダーVadeが出している 『Q4 2022 Phishing and Malware Report』によると2022年第3四半期の7440万通に対し、第4四半期は2億7830万のユニークなフィッシングメールを発見した。これらの攻撃は、低労力かつ高リターンであるため、信じられないほど人気がある。例えば、個人が偽のOffice 365ログインフォームを作成し、フィッシングメールのテンプレートを無防備なユーザーに送信し、ログインしようとするユーザーのアカウント詳細を採取することができる。もしユーザーがたった一度でも詐欺メールを額面通りに受け取ってしまったら、何百万円もするデータ漏洩を引き起こすかもしれない。ジェネレーティブAIの活用が進む中、従業員がさらされる脅威の量は増える一方だ。ChatGPTのようなジェネレーティブAIはすでに脅威の担い手によって、独自に調整された何千ものフィッシングメッセージを自動化するために使用されている。さらに、それらのメッセージの何千ものバリエーションを作成し、成功率をさらに高めることができる」と言われている。……続きは本紙で。
【４２３】 2023年3月20日付 フィンテック最新事情（281）
ChatGPTのような技術は銀行で使い道はあるのか？ その１
ChatGPTが公開されて既に3か月が過ぎた。今や世界中の人々、多くの業界から注目を浴びている。これまで本稿ではChatGPTの機能面について断片的に評価した記事を紹介してきたが、金融業界にいる人々にとってもChatGPTはホットトピックであり、誰しもが金融業界でどのように使われるのか疑問を持ち始めている。その中で、3月6日付きのアメリカンバンカー紙が技術及び業務の総合的な観点から、“ChatGPTのような技術は銀行で使い道はあるのか？”の見出しで報道したので、多少長い記事ではあるが複数回に分けてその概要を紹介する。
「マイクロソフトが11月30日に公開したチャットボット「ChatGPT」は、空前の人気とメディアの注目を集めています。月間推定9600万人のユーザーから、あらゆる種類の質問が投げかけてくる。当初、ユーザーたちは驚嘆した。Googleについての滑稽五行詩や、猫についてのラップソングを書くことができたのだ。学生たちは、AIにエッセイを書かせた。マイクロソフトの創業者ビル・ゲイツは、ChatGPTのようなAIチャットボットは、PCやインターネットと同じくらい『重要』な存在になるだろうと述べている。グーグルの首脳陣は、ChatGPTをめぐって『Code Red（深刻な脅威への警戒）』を発令し、エンジニアをLamdaという競合するAIプロジェクトに振り向けたと報じられました。するとその後、ユーザーから欠陥の指摘が出始めた。ChatGPTの回答の中には間違っているものもある。知識ベースは2021年以降更新されていない。ChatGPTはインターネットを徘徊し、あらゆるソースからコンテンツを吸収し、そのソースを明らかにしない。また、一部の記者は、ChatGPTとのやりとりを見て、不穏な空気を感じたという。誇大広告を一皮むけば、ChatGPTは今の金融で使えるような状態ではない。しかし、正しい方向性とガードレールが適用されれば、将来的にそうなる可能性はある」と指摘している。……続きは本紙で。
【４２４】 2023年3月27日付 フィンテック最新事情（282）
ChatGPTのような技術は銀行で使い道はあるのか？ その2
前423号に引き続き、3月6日付きのアメリカンバンカー紙の“ChatGPTのような技術は銀行で使い道はあるのか？”の記事の中で述べられている“大規模言語モデルが銀行業務でどのように機能するか”の概要を紹介する。
ChatGPTを支える技術である大規模言語モデルは、銀行業務にも応用できるとウェルズ・ファーゴ銀行の戦略・デジタル・イノベーション担当CIOは言う。大規模言語モデルとは、膨大なデータセットから得た知識に基づいて、テキストやその他のコンテンツを認識、要約、翻訳、予測、生成できる深層学習アルゴリズム。自然言語を理解し、入力されたテキストや音声に対して人間のような応答をするように設計されているので、銀行が大規模な言語モデルを用いて一連の文書を分析、素早く要約し、弁護士が見るべき敵対的な内容を特定することができるかもしれない。一部の金融機関では、このようなテストが行われているとニューヨーク証券取引所の元最高情報責任者は認識した上で、「その結果、本当に時間の節約になるのかどうか、誰もが試している。結果を編集し、それが事実かどうかを見極めるのにかかる時間を考慮しなければならないと指摘する。人々は少し熱心すぎて、仕事に使いたがる、しかし、セキュリティとプライバシーの面では、それはオープンドアであり、そのリスクを意識する必要がある。"と述べた。……続きは本紙で。
前423号に引き続き、3月6日付きのアメリカンバンカー紙の“ChatGPTのような技術は銀行で使い道はあるのか？”の記事の中で述べられている“大規模言語モデルが銀行業務でどのように機能するか”の概要を紹介する。
ChatGPTを支える技術である大規模言語モデルは、銀行業務にも応用できるとウェルズ・ファーゴ銀行の戦略・デジタル・イノベーション担当CIOは言う。大規模言語モデルとは、膨大なデータセットから得た知識に基づいて、テキストやその他のコンテンツを認識、要約、翻訳、予測、生成できる深層学習アルゴリズム。自然言語を理解し、入力されたテキストや音声に対して人間のような応答をするように設計されているので、銀行が大規模な言語モデルを用いて一連の文書を分析、素早く要約し、弁護士が見るべき敵対的な内容を特定することができるかもしれない。一部の金融機関では、このようなテストが行われているとニューヨーク証券取引所の元最高情報責任者は認識した上で、「その結果、本当に時間の節約になるのかどうか、誰もが試している。結果を編集し、それが事実かどうかを見極めるのにかかる時間を考慮しなければならないと指摘する。人々は少し熱心すぎて、仕事に使いたがる、しかし、セキュリティとプライバシーの面では、それはオープンドアであり、そのリスクを意識する必要がある。"と述べた。……続きは本紙で。