プレスリリース

進化した「Workers AI」「AI Gateway」「Vectorize」でより大規模なAIモデルのデプロイや、より複雑なAIタスクの処理を実現

（2024年 9月 26日 太平洋標準時6:00本国発表）
誰もが接続しやすいコネクティビティクラウドのリーディングカンパニーであるCloudflare（クラウドフレア）は、本日、サーバーレスAIプラットフォーム「Workers AI」と、一連のAIアプリケーション開発者ツールに、より高速で強力かつ高性能なAIアプリケーション構築のための新機能を発表しました。今後、「Workers AI」で構築されるアプリケーションは、より高速な推論、より大きなモデル、改善されたパフォーマンス分析などのさまざまなメリットを得ることができます。「Workers AI」は、世界中のどこにいてもグローバルなAIアプリケーションが構築でき、ユーザーの至近距離でAI推論を実行できる開発者プラットフォームであり続けます。
[画像1: https://prcdn.freetls.fastly.net/release_image/61678/78/61678-78-52664b46cc20da0401a5a6e0dac23c60-1999x1126.png ]

大規模言語モデル（LLM）がより小型化され、高性能になるにつれて、ネットワークスピードがAIの導入およびシームレスなインタラクションにおけるボトルネックになっていきます。Cloudflareがグローバルに展開するネットワークは、ネットワークの遅延の最小化に貢献しており、これは、少数のデータセンターと限定的なリソースから構成される一般的なネットワークとは一線を画しています。Cloudflareのサーバーレス推論プラットフォームである「Workers AI」は現在、世界180都市以上にGPUを配置しており、世界中のエンドユーザーに低遅延の環境を提供できるアクセシビリティを実装しています。このGPUネットワークによって、「Workers AI」はあらゆるAIプラットフォームの中で最大級のグローバル展開を実現しており、可能な限りユーザーの至近距離でローカルにAI推論を実行し、顧客データをより近くに保つことができるように設計されています。
[画像2: https://prcdn.freetls.fastly.net/release_image/61678/78/61678-78-cdc1da0810548ab5cc8b116ca91f88a7-1800x1098.png ]

Cloudflareの共同創設者兼最高経営責任者（CEO）であるマシュー・プリンス（Matthew Prince）は、「AIが注目を集めはじめた頃、それはまだ目新しく実験的な技術であったため、ネットワークスピードがその動作に遅延をもたらすと考える人はまずいませんでした。しかし、AIが私たちの日常生活の一部になりつつある今、ネットワーク、そしてミリ秒単位での速度が重要になってきています。AIが進化し、トレーニングの段階から推論の段階に移行していくにつれて、ネットワークのパフォーマンスとその地域内で機能することがAIにとってますます決定的な要素になるでしょう。Cloudflareは、市場で最もグローバルなAIプラットフォームであり、世界中の都市にGPUを配置しています。そして、この事実こそが、かつてインターネットの高速化がスマートフォンに革命をもたらしたのと同じように、AIをただのおもちゃから私たちの日常生活の一部に変化させていくことでしょう」と述べています。

Cloudflareは、本日、AIアプリケーション構築のための開発者プラットフォームに以下の新機能を導入しました。

「Workers AI」のパフォーマンスの向上と大規模モデルへの対応強化


Cloudflareは、AI推論パフォーマンスのアップグレード、ならびに「Llama 3.1 70B」および「Llama 3.2」モデル群（1B、3B、11B、そして90B）などのはるかに大規模なモデルで推論を実行できるよう、「Workers AI」のためのより強力なGPUを備えたグローバルネットワークを拡大しています。より大規模なモデルに対応するとともに、より高速なレスポンスとより大きなコンテクストウィンドウによって、「Workers AI」上で構築されたAIアプリケーションは、より複雑なタスクを効率的に処理できるようになり、自然でシームレスなエンドユーザーの体験が生み出されます。
「AI Gateway」の永続ログによるAI利用のモニタリングと最適化の改善


オープンベータ版「AI Gateway」の新機能である永続ログによって、開発者はユーザーのプロンプトとモデルの回答を長期間保存することが可能になり、分析およびアプリケーション性能の理解に活用できるようになります。永続ログがあることで、リクエストのコストや期間といったユーザーエクスペリエンスからより詳細なインサイトを得ることが可能になり、アプリケーションの改善に役立てることができます。昨年のサービスローンチ以来、20億件以上のリクエストが「AI Gateway」を経由しています。
「Vectorize」の高速かつ低価格なクエリ


ベクトルデータベースによって、AIモデルが過去の入力を記憶しやすくなり、機械学習を検索、推奨、テキスト生成ユースケースに適用することができるようになります。この度、一般公開されたベクトルデータベース「Vectorize」は、2024年8月現在、最大500万ベクトル（以前は20万ベクトル）までのインデックスに対応しています。クエリの待ち時間の中央値は、以前の549ミリ秒から、現在は31ミリ秒まで短縮されました。これらの改善によって、AIアプリケーションはより少ないデータ処理で必要な情報を迅速に検索できるようになり、AIアプリケーションはより手頃な価格に進化していきます。
[画像3: https://prcdn.freetls.fastly.net/release_image/61678/78/61678-78-497f11706b94bd63e8fb710fa1a54b94-1800x716.png ]

詳細は、以下のリソースをご覧ください。

Cloudflare’s bigger, better, faster AI platform
https://blog.cloudflare.com/workers-ai-bigger-better-faster/

Making Workers AI faster and more efficient: Performance optimization with KV cache compression and speculative decoding
https://blog.cloudflare.com/making-workers-ai-faster/

Builder Day 2024: 18 big updates to the Workers platform
https://blog.cloudflare.com/builder-day-2024-announcements/

[画像4: https://prcdn.freetls.fastly.net/release_image/61678/78/61678-78-971162ffb97a3c605aebe8053b327f3c-1999x1125.png ]

Cloudflare（クラウドフレア）について
Cloudflare, Inc.（NYSE:NET / https://www.cloudflare.com/ja-jp/ ）は、より良いインターネットの構築の支援を使命に掲げる、誰もが接続しやすいコネクティビティクラウドのリーディングカンパニーです。Cloudflareのコネクティビティクラウドは、世界中のあらゆる組織や個人、アプリケーション、ネットワークを高速かつ安全にするとともに、複雑性やコストの削減を実現する、フル機能かつ統一された業界最先端のクラウドネイティブ製品と開発者ツールプラットフォームを提供しています。
世界最大規模かつ最も相互接続されているネットワークのひとつであるCloudflareは、日々何十億もの脅威をオンラインでブロックしており、大企業からスタートアップ、中小企業、非営利団体、人道支援団体、政府機関まで、世界中の何百万もの組織から信頼されています。
Cloudflareのコネクティビティクラウドの詳細については https://www.cloudflare.com/ja-jp/connectivity-cloud/ 、インターネットの最新トレンドとインサイトについては https://radar.cloudflare.com をご覧ください。

Follow us:
Blog https://blog.cloudflare.com/
X https://twitter.com/cloudflare
LinkedIn https://www.linkedin.com/company/cloudflare/
Facebook https://www.facebook.com/Cloudflare/
Instagram https://www.instagram.com/cloudflare

将来予想に関する記述
本プレスリリースには、将来予想に関する記述（1933年米国証券法第27A条および1934年米国証券取引所法21E条（いずれもその後の改正を含む）に該当）があり、それらには重大なリスクおよび不確定要因が含まれています。将来予想に関する記述は、「場合があります」、「つもりです、するでしょう」、「はずです」、「見込まれます」、「可能性を探ります」、「する計画です」、「予想します」、「かもしれません」、「意図しています」、「目標とします」、「見積ります」、「検討します」、「考えます」、「推測します」、「予測します」、「潜在的」、「引き続き」、またはそれらの否定表現、あるいはCloudflareの予想、戦略、計画、または意図に関わるその他同様の用語もしくは表現によって識別することができます。しかし、すべての将来予想に関する記述にこうした語句が含まれているわけではありません。本プレスリリースにて明示または黙示されている将来予想に関する記述には、「Workers AI」、「AI Gateway」ならびに「Vectorize」とその関連機能およびCloudflareの他の製品およびテクノロジーの性能と有効性、「Workers AI」、「AI Gateway」ならびに「Vectorize」とその関連機能およびCloudflareおよびCloudflareの他の製品およびテクノロジーの利用によってCloudflareのお客様が得られるメリット、Cloudflareの技術開発、将来の運用、成長、イニシアチブ、戦略、CloudflareのCEOなどのコメントが含まれますが、これらに限定はされません。当社が2024年8月1日に米国証券取引委員会（SEC）に提出した四半期報告書（フォーム10-Q）や当社がSECに随時提出するその他の文書で詳説するリスク（ただしこれらに限定はされない）をはじめ、さまざまな要因によって、上記の将来予想に関する記述で明示または黙示した結果と実際の結果との間に重大な相違が生じる可能性があります。

本プレスリリースに含まれる将来予想に関する記述は、あくまで記述当日現在の事象についてのみ言及しています。Cloudflareは、法律で義務付けられた場合を除き、本プレスリリースの日付以降の事象や状況を反映するために、あるいは新しい情報や予期しない事象の発生を反映するために、将来予想に関する記述を更新する義務を負いません。Cloudflareが将来予想に関する記述で開示した計画、意図、予想は実際に実行・達成されない場合があるため、Cloudflareの将来予想に関する記述に過剰に依存すべきではありません。

(C)2024 Cloudflare, Inc. All rights reserved. Cloudflare、Cloudflareのロゴ、およびその他のCloudflareのマークは、米国およびその他の法域におけるCloudflare, Inc. の商標や登録商標です。本書に記載されているその他の商標および名称は、各所有者の商標である可能性があります。

プレスリリース提供：PR TIMES