OpenAI
![]() | |
設立 | 2015年12月11日 |
---|---|
設立者 |
|
所在地 | |
製品 | |
寄付基金 |
|
ウェブサイト |
openai |
OpenAI(オープンエーアイ)は、営利法人OpenAI LPとその親会社である非営利法人OpenAI Inc. からなる人工知能(AI)研究所である。人類全体に利益をもたらす形で友好的なAIを普及・発展させることを目標に掲げ、AI分野の研究を行っている。
2015年末にサム・アルトマン、イーロン・マスクらによってサンフランシスコで設立され、合わせて10億米ドルが提供された。マスクは2018年2月に役員を辞任したが、資金の提供を続けている。
2019年、OpenAI LPは、マイクロソフトとMatthew Brown Companiesから10億米ドルの投資を受けた。
OpenAIは、サンフランシスコのミッション地区にあるパイオニア・ビルに本社を構えている。
アプリケーション[編集]
DALL-E[編集]
自然言語処理と画像生成モデル (VAE、CLIP) を組み合わせたAI「DALL-E」を発表。人間でも見分けが付かないほど高精度な文章を生成するAI「GPT-3」のパラメータを使用し、文章からイラストや写真を作り出すことができる。
DALL-E 2[編集]
自然言語処理と画像生成モデル(拡散モデル、CLIP)を組み合わせたAI「DALL-E 2」を発表。同じくGPT-3のパラメータを使用している。
GPT-3[編集]
Generative Pretrained Transformer 2 (GPT-2) の後継モデルであるGenerative Pretrained Transformer 3 (GPT-3) は、教師なしのTransformer言語モデルである。GPT-3は2020年5月に初めて紹介された[3][4]。OpenAIによると、GPT-3には1,750億個のパラメータが含まれ、GPT-2(パラメータ数15億個)より2桁大きい[5]。
OpenAIは、GPT-3は特定の「メタ学習」タスクで成功すると述べた。単一の入出力ペアの目的を一般化できる。この論文は、英語-ルーマニア語間、および英語-ドイツ語間の翻訳および言語間転移学習の例を示している。
GPT-3のベンチマーク結果は、GPT-2のそれと比較して劇的に改善している。OpenAIは、そのような言語モデルのスケールアップは、予測言語モデルの基本的な機能制限に近づいたり遭遇したりする可能性があると警告した。訓練に要した計算量は、GPT-2では数十ペタフロップ/秒・日だったのに対し、GPT-3では、数千ペタフロップ/秒・日を要した。
GPT-2と同様、GPT-3の完全に訓練されたモデルは、悪用される可能性があるという理由ですぐには一般公開されなかった。OpenAIは、2か月の無料プライベートベータ版の提供後に有料クラウドAPIを介したアクセスを許可する予定だった。
GPT-3が書いたことを伏せたオンライン記事がニュースサイトで、ランキング1位を獲得するなど、人間並みに自然な文章を実現している。ただし、GPT-3を含む「言語AI」の言語処理は「定量的アプローチ」であり、人間の言語能力とは根本的に異なる[6]。
また、将来的には「自然言語を用いたプログラミング」が可能になることも期待されている[7]。
ChatGPT[編集]
2022年11月、対話型言語モデルChatGPTを発表した[8]。GPT-3に改良を加えたGPT-3.5系のモデルがベースになっている[8]。
GPT-4[編集]
2023年3月14日、Generative Pretrained Transformer 4 (GPT-4)のリリースを発表[9]。テキストに加え、画像での入力にも対応した。OpenAIは、GPT-4に司法試験の模擬テストを受けさせたところ、人間の受験者と比べても上位10%程度のスコアで合格したと発表している(前バージョンであるGPT-3.5では下位10%のスコアだった)。最大25,000語のテキストの読み取り・分析・生成が可能で、主要なプログラミング言語のコードを記述することもできる[10]。
脚注[編集]
- ^ Markoff, John (2015年12月11日). “Artificial-Intelligence Research Center Is Founded by Silicon Valley Investors”. The New York Times 2015年12月12日閲覧。
- ^ Metz, Cade (2019年7月22日). “With $1 Billion From Microsoft, an A.I. Lab Wants to Mimic the Brain”. The New York Times 2019年7月22日閲覧。
- ^ “openai/gpt-3”. OpenAI (2020年5月29日). 2020年7月30日閲覧。
- ^ Sagar, Ram (2020年6月3日). “OpenAI Releases GPT-3, The Largest Model So Far” (英語). Analytics India Magazine. 2020年6月14日閲覧。
- ^ Brown, Tom; Mann, Benjamin; Ryder, Nick; Subbiah, Melanie; Kaplan, Jared; Dhariwal, Prafulla; Neelakantan, Arvind; Shyam, Pranav; Sastry, Girish; Askell, Amanda; Agarwal, Sandhini (1 June 2020). "Language Models are Few-Shot Learners". arXiv:2005.14165.
Since we increase the capacity by over two orders of magnitude from GPT-2 to GPT-3
- ^ 日経新聞朝刊2021/5/28
- ^ マイクロソフトはGPT-3を使い自然言語でコードを書けるようにする 2021/5/28閲覧
- ^ a b “質問に答えてくれる言語モデル「ChatGPT」--プレビューは無料公開”. ZDNet (2022年12月2日). 2022年12月6日閲覧。
- ^ Vincent, James (2023年3月14日). “OpenAI announces GPT-4 — the next generation of its AI language model” (英語). The Verge. 2023年3月14日時点のオリジナルよりアーカイブ。2023年3月14日閲覧。
- ^ Wiggers, Kyle (2023年3月14日). “OpenAI releases GPT-4, a multimodal AI that it claims is state-of-the-art” (英語). TechCrunch. 2023年3月15日時点のオリジナルよりアーカイブ。2023年3月14日閲覧。