AIは進化を続ける。
2017年にグーグルが買収した企業、Kaggleの昨年のホワイトペーパーの中で、「What is n Agents?」という段落で、Generative AI Agentについてや、AI Model とAI Agentの対比などについても触れられていた。
事実上、生成AIの進化は次のレベル3へと移っている。
今後、AIエージェントが汎用性高く実装されれば、プロンプトエンジニアリングなども、あまり必要なくなってくるのだろう。
AGI、ASIのようなレベルになると、AI は「組織」的な行動を自動的に取るようになる。そうなると人間による道徳と倫理観に基づいたリテラシーの管理がより重要になるだろう。
生成AIは、使い方次第で社会において良い存在にも悪い存在にもなる、ではどうするのか？といったテーマは散々語られているところだ。
しかし、どれだけ宗教、司法、警察組織、刑罰制度などなど発達？しても、世の中の犯罪者と犯罪行為は消えることがないのも現実だ。国や当局の判断が間違って、司法の整備も取り締まりも遅れてしまえば、ターミネイターでのスカイネットが支配するディストピアが現実になるのかもしれない。
この対策方法云々については議論が永遠に続くんだろう。
これらと並行して当然の如く、使い方に注意が必要なAIサービスが存在しているのはご周知の通りだ。
そんな中、最近リリースされた「Geospy. ai」は何かと役に立ちそうなAIサービスだ。このAIサービス自体が危険という訳ではないが、使い方には要注意という一つかもしれない。
このAIサービスは、写真画像をアップすると、その写真の場所を瞬時に特定してしまう。
どうして使い方を間違うとダメなのかは、もちろんご想像の通りだ。まだ、このAIサービスはデモ段階レベルのようなので、日本版は出ていないようだが、今後の悪用はやめよう。
危険なダークウェブ版GPT
一方、危険で使ってはならないAIサービスもすでに幾つかあることもご存知だろう。以下のものは主にダークウェブの中で存在している。
"WormGPT"
これは、サイバー犯罪フォーラム（ダークウェブ）上でリリースされた悪事・犯罪用のGTPだ。これは真っ当な犯罪支援ツール。
通常のChatGPTに備えられている倫理や道徳そのほかに基づく不正利用を防止する機能が全て外されてしまっており、犯罪を行うことを前提に作られている。
従って、マルウェア開発や、フィッシングメール、サイバー攻撃、SNSアカウントのハッキング、 PC、モバイル、IoTデバイス、カメラなどのハッキングなど出来てしまう。元々のGPTエンジン自体が高性能がゆえに、高度なプログラミングスキルがない人でも、これらのサイバー犯罪行為が簡単にできてしまうところが危険である。
もちろん、これを使ってはいけない。
通常のChatGPTには不正利用を防御するフィルターはあるので、一応は、安心だ。しかしむやみやたらと、特にあなたを特定するような個人情報を共有するのはお勧めしない。
下記は2023年の記事だが、数十万件のChatGPTアカウントがダークウェブ上で売買されたことも記憶に新しい。当然ながら今も同様の事例は続いている。
10万件のChatGPTアカウントが闇市場に、どう盗んだのか誰が欲しがるのか
（記事引用）勝村 幸博 日経クロステック／日経NETWORK
世の中は、性善説ばかりでは動いていないことに常に意識しておかなければならない。
話は脱線するが、近年増加中の、「悪質M&A」や「ワンルーム投資詐欺」なども同じようなことだ。
仲間の1人で、量子力学の研究、量子コンピューター開発を行っている人がいるが、彼が言っていたが、「所詮、デジタルは0と1という数字で構成されている以上、理論上は必ずハッキングできるし、外部から完全に防ぐことはできない」と言っていた。
色々なサイバーセキュリティ対策についてのツールやらなんやら沢山出てくるが、大企業のサーバーや大規模データを保守運用するプロがやるBtoBセキュリティは別として、個人においては、結局、インターネット上でのパスワードは、なるべく定期的に変更するべきだということと、個人情報の不注意かつ不必要な入力は注意する、なるべく入力しないということをちゃんとやるしかないのだろう。
生成AIで企業変革を実現！戦略立案から独自アプリケーション開発まで、貴社のDX革新をワンストップでサポートする総合コンサルティングサービス。
Comments