グロク
アメリカのテクノロジー企業
グロク株式会社
会社の種類プライベート
業界
設立2016年; 9年前 （2016年）
創設者
  • ジョナサン・ロス
本部
カリフォルニア州マウンテンビュー
、
私たち
主要人物
ジョナサン・ロス（CEO）、アンドリュー・S・ラパポート（取締役）、チャマス・パリハピティヤ（投資家）
製品言語処理ユニット（LPU）
収益320万米ドル（2023年）[1]
8,800万米ドル（2023年）[1]
従業員数
250（2023）
Webサイトgroq.com

Groq, Inc.は、AI ワークロードの推論パフォーマンスを高速化するために、言語処理ユニット (LPU) と呼ばれるAI アクセラレータ特定用途向け集積回路(ASIC) と関連ハードウェアを構築するアメリカの人工知能(AI ) 企業です。

GroqのLPUで実行されるAIワークロードの種類の例としては、大規模言語モデル（LLM）[2] [3] 画像分類[ 4] 異常検出[ 5] [6]予測分析[7] [8]などがあります。

Groq はカリフォルニア州マウンテンビューに本社を置き、カリフォルニア州サンノゼ、ワシントン州リバティーレイク、カナダのトロント、イギリスのロンドンにオフィスを構えています。また、北米とヨーロッパ全域にリモート従業員がいます。

歴史

Groqは、AIアクセラレータASICであるTensor Processing Unit （TPU）の設計者の一人であるジョナサン・ロスと、起業家でありGoogle X（ X Developmentとして知られる）の元エンジニアで同社の初代CEOを務めたダグラス・ワイトマンが率いる元Googleエンジニアのグループによって2016年に設立されました。[9] [1]

Groqは、2017年にソーシャルキャピタルのChamath Palihapitiyaか​​ら1,000万ドルのシード資金を受け取り[10]、その後すぐに追加資金を確保しました。

2021年4月、GroqはTiger Global ManagementとD1 Capital Partnersが主導するシリーズCラウンドで3億ドルを調達した。[11]現在の投資家には、The Spruce House Partnership、Addition、GCM Grosvenor、Xⁿ、Firebolt Ventures、General Global Capital 、Tru Arrow Partnersが含まれ、 TDK Ventures、XTX Ventures、Boardman Bay Capital Management、Infinitum Partnersからの追加投資もある。 [12] [13] GroqのシリーズC資金調達ラウンド後、評価額は10 億ドルを超え、このスタートアップはユニコーンとなった。[14]

2022年3月1日、Groqはデータフローシステム技術で知られるMaxeler Technologiesを買収しました。[15]

2023年8月16日、Groq社は、サムスン電子のテキサス州テイラーにあるファウンドリーを、同社の4ナノメートル（nm）プロセスノードを用いた次世代チップの製造拠点として選定しました。これは、サムスン電子の新しいチップ工場における最初の受注でした。[16]

2024年2月19日、Groqは開発者プラットフォームであるGroqCloudをソフトローンチし、開発者にGroq APIの利用とチップへのレンタルアクセスを提供しました。[17] [1] 2024年3月1日、Groqはクラウドプラットフォームの強化を目的として、ビジネス指向のAIソリューションを幅広く提供することで知られるスタートアップ企業であるDefinitive Intelligenceを買収しました。[18]

Groqは2024年8月にブラックロック・プライベート・エクイティ・パートナーズが主導するシリーズDラウンドで6億4000万ドルを調達し、企業価値は28億ドルに達した。[1] [19]

Groqの2025年5月のウェブサイトの更新によると、同社はKSA（サウジアラビア王国）[20]から15億ドルの資金を確保し、ベルカナダと国家AIインフラの拡張に関する契約を締結した。 [21] [22] 2025年9月、同社はダラスに拠点を置く投資会社Disruptiveが主導し、ブラックロック、ニューバーガー・バーマン、ドイツテレコム・キャピタル・パートナーズなどが参加した新たな資金調達ラウンドで7億5000万ドルを調達し、Groqの評価額は69億ドルとなった。[23]

2025年現在、Groqは自社の技術を活用して、米国、カナダ、中東、ヨーロッパに12のデータセンターを設立しています。 [24]

言語処理ユニット

GroqのLPU V1のダイ写真

Groq社が当初開発したASICの名前はTensor Streaming Processor (TSP)でしたが、後にTSPはLanguage Processing Unit (LPU)に名称変更されました。[2] [25] [26]

LPUは機能的にスライスされたマイクロアーキテクチャを特徴としており、メモリユニットがベクトルおよび行列演算ユニットとインターリーブされています。[27] [28]この設計により、AI計算グラフにおけるデータフローの局所性を容易に活用でき、実行性能と効率が向上します。LPUは、以下の2つの重要な観察に基づいて設計されました。

  1. AIワークロードは、専用のハードウェアにマッピングできる実質的なデータ並列性を示し、パフォーマンスの向上につながります。[27] [28]
  2. 決定論的なプロセッサ設計と生産者・消費者 プログラミングモデルを組み合わせることで、ハードウェアコンポーネントを正確に制御・推論することができ、パフォーマンスとエネルギー効率を最適化できます。[27] [28]

LPUは、機能的にスライスされたマイクロアーキテクチャに加えて、シングルコアの決定論的アーキテクチャも特徴としています。[27] [29] LPUは、従来の反応型ハードウェアコンポーネント（分岐予測器、アービタ、並べ替えバッファ、キャッシュ）の使用を避けることで決定論的な実行を実現し、すべての実行をコンパイラによって明示的に制御することで、LPUプログラムの実行における決定論性を保証します。[28 ]

第1世代のLPU（LPU v1）は、25×29 mmの14nmチップで、公称クロック周波数900 MHzで動作し、シリコン1平方mmあたり1TeraOp/s以上の計算密度を実現します。[27]第2世代のLPU（LPU v2）は、サムスンの4nmプロセスノードで製造されます。[16]

パフォーマンス

Groqは、Metaの Llama2-70Bパラメータモデルを実行し、1秒あたり100トークンの生成速度を突破した最初のAPIプロバイダーとなりました。[30]

Groqは現在、自社のLPU上で動作する様々なオープンソースの大規模言語モデルを公開しています。[31]これらのデモはGroqのウェブサイトからアクセスできます。これらのオープンソースLLM実行時のLPUのパフォーマンスは、ArtificialAnalysis.aiによって独立してベンチマークされ、他のLLMプロバイダーと比較されています。[32] LPUの測定パフォーマンスは以下の表に示されています。[33]

言語処理ユニットLLMパフォーマンス
モデル名 トークン/秒（T/s） レイテンシ（秒）
ラマ4マーベリック 520 T/秒 0.2秒
ラマ4スカウト 433 T/s 0.2秒
ラマ 3.3 70B 369 T/s 0.2秒
ジェマ 2 9B 926 T/s 0.2秒
ラマ 3.1 8B 667 T/s 0.2秒
キミ K2 0905 360 T/秒 0.3秒
キミK2 322 T/秒 0.3秒
GPT-OSS 20B 1116 T/s 0.2秒
GPT-OSS 120B 484 T/秒 0.2秒
クウェン3 32B 443 T/s 0.2秒
ディープシークR1

蒸留ラマ70B

271 T/s 0.2秒

参照

参考文献

  1. ^ abcde Nieva, Richard (2024年8月5日). 「AIチップブームがこの小さなスタートアップを救った。今や28億ドルの資産を築き、Nvidiaに挑む」Forbes .
  2. ^ ab Williams, Wayne (2024年2月27日). 「『まるで魔法みたい！』：Groqの超高速LPUは、LLMネイティブプロセッサの先駆けとなる可能性も。最新デモはNvidiaとAMDに資金援助を求めるきっかけになるかもしれない」. TechRadar Pro . TechRadar . 2024年4月19日閲覧。
  3. ^ Ward-Foxton, Sally (2023年9月12日). 「Groq、4年前のシリコンで高速LLMを実証」. EETimes . 2024年4月19日閲覧。
  4. ^ Ward-Foxton, Sally (2020年1月21日). 「GroqのAIチップがクラウドに登場」. EETimes . 2024年4月19日閲覧。
  5. ^ ムーアヘッド、パトリック。「米陸軍分析グループ – サイバーセキュリティの異常検知が1000倍高速化、誤検知も減少」Forbes 。 2024年4月19日閲覧。
  6. ^ ハーマン・アーサー. 「サイバーセキュリティはハイテク時代に突入」.フォーブス. 2024年4月19日閲覧。
  7. ^ Heinonen, Nils. 「研究者、アルゴンヌのGroq AIプラットフォームで核融合研究を加速」アルゴンヌ・リーダーシップ・コンピューティング・ファシリティ. 2024年4月19日閲覧。
  8. ^ ラーウッド、マライア、セルニー、ベス。「アルゴンヌ、ALCF AIテストベッドに新しいGroqシステムを配備、世界中の研究者にAIアクセラレータへのアクセスを提供」アルゴンヌ・リーダーシップ・コンピューティング・ファシリティ。 2024年4月19日閲覧。
  9. ^ Levy, Ari (2017年4月21日). 「Googleのエンジニア数名が、最も秘密主義的なAIプロジェクトの一つから脱退し、ステルススタートアップを設立」CNBC . 2024年4月19日閲覧。
  10. ^ Clark, Kate (2018年9月6日). 「秘密主義の半導体スタートアップGroqがSocial Capitalから5200万ドルを調達」TechCrunch . 2024年4月19日閲覧。
  11. ^ イアン・キング（2021年4月14日）「Tiger GlobalとD1がAIチップスタートアップGroqに3億ドルの資金調達ラウンドを主導」ブルームバーグ。 2024年4月19日閲覧。
  12. ^ Wheatly, Mike (2021年4月14日). 「AIチップメーカーGroq、シリーズCラウンドで3億ドルを調達」. Silicon Angle . 2024年4月19日閲覧。
  13. ^ McFarland, Alex (2021年4月14日). 「AIチップスタートアップのGroqがシリーズCの資金調達で3億ドルを調達」Unite.AI . 2024年4月19日閲覧。
  14. ^ Andonov, Kaloyan; Lavine, Rob (2021年4月19日). 「分析：GroqがシリーズCで3億ドルの資金調達を計算」Global Venturing . 2024年4月19日閲覧。
  15. ^ Prickett Morgan, Timothy (2022年3月2日). 「GROQ、HPCおよびAIデータフローの専門知識でMAXELERを買収」. The Next Platform . 2024年4月19日閲覧。
  16. ^ ab Hwang, Jeong-Soo. 「サムスンの米国新チップ工場、Groqから初のファウンドリー受注を獲得」韓国経済新聞. 2024年4月19日閲覧。
  17. ^ Franzen, Carl (2024年3月). 「Groq、新たに買収したDefinitive Intelligenceと共同で開発者向けプラットフォーム「GroqCloud」をローンチ」Venture Beat . 2024年4月19日閲覧。
  18. ^ Wiggers, Kyle (2024年3月). 「AIチップスタートアップGroqが新事業部門を設立、Definitive Intelligenceを買収」TechCrunch . 2024年4月19日閲覧。
  19. ^ Wiggers, Kyle (2024年8月5日). 「AIチップスタートアップGroqが6億4000万ドルを調達しNvidiaに挑む」TechCrunch . 2024年8月26日閲覧。
  20. ^ https://groq.com/leap2025/
  21. ^ Groq Media. (2025年5月28日). 「プレスリリース：GroqがBell CanadaのSovereign AI Networkの独占推論プロバイダーに」Groqウェブサイト 2025年7月2日閲覧。
  22. ^ マイケル・リーブ (2025年5月29日). 「ベル、グロク、TRUの新たな提携により、カムループスはカナダにおけるAI展開の最先端を行くことになる」JFJC Todayウェブサイト 2025年7月2日閲覧。
  23. ^ 「投資家がAIチップに賭ける中、Groqの評価額は2倍以上に上昇し、69億ドルに」ロイター2025年9月17日. 2025年10月4日閲覧。
  24. ^ Kao, Kimberley (2025年10月3日). 「AIユニコーンGroqがデータセンター拡張計画を発表」.ウォール・ストリート・ジャーナル. 2025年10月4日閲覧。
  25. ^ Mellor, Chris (2024年1月23日). “Grokking Groq's Groqness”. Blocks & Files . 2024年4月19日閲覧。
  26. ^ アプツ、デニス;ロス、ジョナサン。スパーリング、ジョナサン。ウォン・ヴァンハーレン、マーク。ベイカー、マックス。ホーキンス、トム。ベル、アンドリュー。トンプソン、ジョン。カサイ、テメスゲン。キンメル、ガーリン。ファン、ジェニファー。レスリー・ハード、レベッカ。さようなら、マイケル。クレスウィック、ER;ボイド、マシュー。ベニガラ、マヒタ。ラフォージ、エヴァン。パーディ、ジョン。カマス、プルショタム。マヘシュワリ、ディネシュ。バイドラー、マイケル。ロシール、ギアト。アフマド、オマル。ガガーリン、グレブ。リチャード・チェカルスキー。レーン、アシェイ。パルマル、サヒル。ヴェルナー、ジェフ。シュプロッハ、ジム。マシアス、エイドリアン。ブライアン・カーツ（2020年5月）。 「Think Fast: ディープラーニングワークロードを高速化するTensorストリーミングプロセッサ（TSP）」（PDF）。2020 ACM/IEEE 第47回国際コンピュータアーキテクチャシンポジウム（ISCA）。pp.  145– 158。doi : 10.1109/ISCA45697.2020.00023。ISBN 978-1-7281-4661-4。
  27. ^ abcdef Abts, Dennis; Kimmell, Garrin; Ling, Andrew; Kim, John; Boyd, Matt; Bitar, Andrew; Parmar, Sahil; Ahmed, Ibrahim; Dicecco, Roberto; Han, David; Thompson, John; Bye, Michael; Hwang, Jennifer; Fowers, Jeremy; Lillian, Peter; Murthy, Ashwin; Mehtabuddin, Elyas; Tekur, Chetan; Sohmers, Thomas; Kang, Kris; Maresh, Stephen; Ross, Jonathan (2022-06-11). 「大規模機械学習のためのソフトウェア定義テンソルストリーミングマルチプロセッサ」.第49回国際コンピュータアーキテクチャシンポジウム論文集. pp.  567– 580. doi :10.1145/3470496.3527405. ISBN 978-1-4503-8610-4。
  28. ^ abcd Abts, Dennis; Kimmell, Garrin; Ling, Andrew; Kim, John; Boyd, Matt; Bitar, Andrew; Parmar, Sahil; Ahmed, Ibrahim; Dicecco, Roberto; Han, David; Thompson, John; Bye, Michael; Hwang, Jennifer; Fowers, Jeremy; Lillian, Peter; Murthy, Ashwin; Mehtabuddin, Elyas; Tekur, Chetan; Sohmers, Thomas; Kang, Kris; Maresh, Stephen; Ross, Jonathan (2022年6月11日). 「大規模機械学習のためのソフトウェア定義テンソルストリーミングマルチプロセッサ」.第49回国際コンピュータアーキテクチャシンポジウム論文集. pp.  567– 580. doi :10.1145/3470496.3527405. ISBN 978-1-4503-8610-4. 2024年3月18日閲覧。
  29. ^ Singh, Satnam (2022年2月11日). 「決定論の好循環：GroqのTensorストリーミングプロセッサのプログラミング」. 2022 ACM/SIGDA国際フィールドプログラマブルゲートアレイシンポジウム議事録. p. 153. doi :10.1145/3490422.3510453. ISBN 978-1-4503-9149-8. 2024年3月18日閲覧。
  30. ^ スミス＝グッドソン、ポール. 「Groqの記録破りの言語プロセッサ、大規模AIモデルで1秒あたり100トークンを達成」. Forbes . 2024年4月19日閲覧。
  31. ^ モリソン、ライアン (2024年2月27日). 「Groq を見よ — AIモデルを超高速で実行できるように設計されたチップ」. Tom's Guide . 2024年4月19日閲覧。
  32. ^ 「Groq、新たなLLMベンチマークで業界平均を上回る有望な結果を示す」HPCwire、2024年2月13日。 2024年3月18日閲覧。
  33. ^ 「Groq - インテリジェンス、パフォーマンス、価格分析 | 人工分析」。artificialanalysis.ai 。 2025年9月13日閲覧。
  • 公式サイト
「https://en.wikipedia.org/w/index.php?title=Groq&oldid=1315002558」から取得