资源描述
-1-刘玉萍S1090518120002 AIGC AIGC 2023.5.26证券研究报告|行业深度报告信息技术|计算机周翔宇S1090518050001-2-AIGC AIGC AIGC OpenAI GPT-4 GPT-4 AI AIGC AIGC MaaS AIGC AI finetune MaaS/IOT GPT/AIGC+AIGC/“C B”C B AIGC“”AIGC AIGC AI AI AI YWDWvMqNnOnMpRmPtOpQmNaQ9R7NmOpPpNsRjMoOmRlOmOtN8OqRsPxNnOnNvPrNqQ-3-OpenAI引领AI产业变革，大模型百花齐放 AI的发展历程：识别 类通用AGI 为什么AIGC是一 次 重大 的 技 术变 革？为什么是OpenAI 引 领 此次 变 革？大模型的竞争要素？AIGC 风险防微杜渐，监管与发展同行 投资建议-4-1.1 AIGC AIGC AI-Generated Content GAN AI/Arxiv NovelAI-5-1.2 AIGC 1990 1974 PC 1994 2006 2010 iPhone42013 4G 2019 5G 2022 AIGCIT AI/-6-1.2 ChatGPT AI 23 4 ChatGPT Robo-Fedwatchers 25 Robo-Fedwatchers 30 Robo-Fedwatchers Bloomberg 4.28 25 5.25%AI 5 4 25 AI-7-1.2 AI AGI Artificial General Intelligence AGI AI 1942 2017.1Facebook PyTorch2015OpenAIGoogle Tensor Flow2018.6OpenAI GPT12017.12Google Attention is all you need,Transformer 2016AlphaGo 2014.12 GAN 2012Google 1.6 CPU AI YouTube 1000 2009Image Net 1998(CNN 1956 1950 1997LSTM RNN 2006 2018.10Google BERT2019.2OpenAI GPT2 2020.5OpenAI GPT32020.6DDPM GAN AI 2022.62022.11OpenAI ChatGPT CSDN OpenAI AGI-8-1.2 NLP BERTAttentionTransformerGPTT5Sequence to SequenceFNNRNN WordEmbeddingELMOMulti-taskLearningCNN LSTM1950 1980 1990-2016 2017 RNN RNN LSTM RNN RNN CNN Attention CSDN Attention is all you need-9-OpenAI 2015 2022 11 30 ChatGPT 1 GPT-4 OpenAI AI Transformer Google“”OpenAI AI 1.3 OpenAI ChatGPT OpenAI ChatGPT 2TikTok 9Instagram 30WhatsApp 42Meta 54Twitter 60ChatGPT Transformer-10-1022 0 1024 GPT4 GPT3 GPT4 1.3 Wei J,Tay Y,Bommasani R,et al.Emergent abilities of large language modelsJ.arXiv preprint arXiv:2206.07682,2022.OpenAI-11-GPT-1 GPT-4 GPT-1 GPT-2 GPT-3 GPT-3.5 RLHF Dall-E GitHub Copilot GPT-4 ChatGPT Plugin ChatGPT iOS APP C 1.3 GPT OpenAI GPT Open AI GPT 2019.2 GPT-2 GPT-3 Gpt-3 API Azure&AI GPT-4 GPT-4 Office Copilot GPT-4 Security Copilot 2018.6 2015.12 2020.5 2020.62021.12022.11 2023.1 2023.2 2023.3.62023.3.92023.3.15 2023.3.162023.3.28 ChatGPTPlugin 2023.3.24 Gpt-3 2020.9 DALL-E GPT-3.5 ChatGPT 1 Open AI 100 OpenAI BING AI Chatgpt Dynamics copilot GitHub Copilot 2021.10-12-1.4.1/NLPOpenAIGPT4ChatGPT plus 1800B-Azure AI C Office/BING Plugins APP Expedia Kayak Instacart/API Meta LLAMA7B13B33B65B1.4T LLaMA-13B GPU RLHF Prompt Google PaLM2.0 340B 3.6T TPU v4 4000 TPU/H100 GPU AI A3 Gecko-25 Bard Duet AI Workspace PaLM 2 AI Med-PaLM 2 Sec-PaLM 2 Databricks Dolly2.0 12B 15K 30 CVMeta SAM 0.636BSA-1B 1100 11/C prompt PCSAM Meta SAM StabilityAIStable Diffusion 1BLAION-5B 58.5/Prompt SD 20 1000 Dream Studio 150 1.7 Midjourney Midjourney 5-/Prompt 25 10/30/60/8/24/48/-13-1.4.2 260B 4exaFLOPS AI 5500 3 16 650 12exaFLOPS 4 26 7 50B 4 7 50TB 10 180B AIDC 2.7 GPU 5.0 exaFLOPS-B II NLP 40TB CV NLP ERP 4400 3 360 8 AI 500PB 45T SuperCLUE 360 toB-14-36Kr GLM ChatGLM-6B 45+10 270-290 2023 GPT DALL E Whisper 41 2023 Claude 20 2023 CPM Pre-A 1.4.3-15-OpenAI引领AI产业变革，大模型百花齐放AIGC风靡一二级市场，标的选择大浪淘沙 大模型产业链梳理 算力基础设施：AIGC 的“卖 铲人”MaaS：垂 直 场景 化 赋能 百 业，轻 量 化变 革IOT 应用：被赋能还是被颠覆？风险防微杜渐，监管与发展同行 投资建议-16-2.1 AIGC AI GPU FPGACPU ASIC AI MaaS)CV NLP&-17-2.2.1 AIGC OpenAI Finetune ChatGPTGPT-1 GPT-2GPT-3 GPT-4SFT PPO RM Finetune Fine-tuning-18-XXXXXXXXXXXXXXXXXXXXXXXXXX2.2.1 Kaplan,J.,McCandlish,S.,Henighan,T.,Brown,T.B.,Chess,B.,Child,R.,Gray,S.,Radford,A.,Wu,J.and Amodei,D.,2020.Scaling laws for neural language transformer(NLP)Encoder-Only(E)Decoder-Only(D)Encoder-Decoder(ED)=Encoder-Only Decoder-Only=6 Encoder-Decoder=3 GPT3 parameters 175B 175*109 token 300B 300*109 GPT3 Decoder-Only D GPT3 175*109 300*109 6=3.15 1023=315 ZettaFLOPS McCandlish,S.,Henighan,T.,Brown,T.B.,Chess,B.,Child,R.,Gray,S.,Radford,A.,Wu,J.and Amodei OpenAI 3.15 1023 24 365=3646-19-XXXXXXXXXXXXXXXXXXXXXXXXXX2.2.1 modelParameters token in datasetdomain kZflops(1021)pf*day(1015)GoogleBERT 4810 33 NLP encoder-only 6 10 110PaLM 5400 7800 NLP decoder-only 6 2527 29250magen 110+lambda 1370 1680 NLP decoder-only 6 138 1598Parti 200+decoder-only 6MicrosoftFlorence 6.4+Turing-NLG 170 2700 NLP encoder-only 6 28 319FacebookOPT-175B 1750 1800 NLP decoder-only 6 189 2188M2M-100 150 NLP encoder-decoder 3Deep MindGopher 2800 3000 NLP encoder-only 6 504 5833AlphaCode 414 9670 NLP encoder-decoder 3 120 1390OpenAIGPT3 1750 3000 NLP decoder-only 6 315 3646ChatGPT 1751 NLP decoder-only 6GPT4 1750-2800+Nvidia Megatron-Turing NLG 5300 2700 NLP decoder-only 6 859 9938 ERNIE 2600 3000 NLP decoder-only 6 468 5417 AIGC-20-XXXXXXXXXXXXXXXXXXXXXXXXXX2.2.1 GPT3 10000 V100 20%GPT3 GPT3=GPT3 V100 125TFlops 20%14.59A100 312TFlops 35%3.34=X$/X 24 X Azure$/$/GPT V100 10.796 1.350 10000 14.59 4.723A100 18.829 2.354 10000 3.34 1.8863646 125TFlops 20%10000=14.59 Days V100/A100 GPT3 Azure 10000 V100 GPT3 14.59 X 1.350$/X 24 X 10000=4.72 Million USD V100/A100 GPT3 Azure OpenAI-21-XXXXXXXXXXXXXXXXXXXXXXXXXX2.2.1 Azure OpenAI AIGC(PF*day)V100(A100 V100 A100 BERT 110 0.44 0.10 0.143 0.057PaLM 29250 117.00 26.79 37.894 15.130Lambda 1598 6.39 1.46 2.071 0.827 Turing-NLG 319 1.28 0.29 0.413 0.165Facebook OPT-175B 2188 8.75 2.00 2.834 1.132Deep MindGopher 5833 23.33 5.34 7.557 3.017AlphaCode 1390 5.56 1.27 1.801 0.719OpenAI GPT3 3646 14.58 3.34 4.723 1.886 Megatron-Turing NLG 9938 39.75 9.10 12.874 5.140 ERNIE 5417 21.67 4.96 7.017 2.802 A100/V100 GPT3 2.5 10000 A100 DGX A100 8 A100 20 10000 A100 1250 2.5 17.17-22-XXXXXXXXXXXXXXXXXXXXXXXXXX2.2.1 Scaling laws for neural language=Encoder-Only Decoder-Only=2 Encoder-Decoder=1 GPT3 parameters 175B 175*109 1000 token 175*109 1000 2=3.5 1014=350 TFLOPS McCandlish,S.,Henighan,T.,Brown,T.B.,Chess,B.,Child,R.,Gray,S.,Radford,A.,Wu,J.and Amodei A100 TF32 156TFLOPS 350 TFLOPS 156 TFLOPS=2.24 second A100$2.354/GPT3 1000token$2.354/h 3600 2.24=$0.0015/1k token-23-XXXXXXXXXXXXXXXXXXXXXXXXXX2.2.1 API ChatGPT GPT4 API ChatGPT API 0.2/1k token GPT4 API ChatGPT API 0.012/1k token ChatGPT OpenAI ChatGPT$0.002/1k token$0.002/1k tokenGPT4-8K$0.03/1k token$0.06/1k tokenGPT4-32K$0.06/1k token$0.12/1k token 0.012/1k token 0.012/1k token API ChatGPT API 2014 15 token 2014 16 token token token ChatGPT 15$0.002/1k token$0.00003 16$0.002/1k token$0.000032$0.000062 GPT4-8K 15$0.03/1k token$0.00045 16$0.06/1k token$0.00096$0.00141 GPT4-32K 15$0.06/1k token$0.0009 16$0.12/1k token$0.001920$0.00282 15 0.012/1k token 0.00018 16 0.012/1k token 0.000192 0.000372 API-24-2.2.1 AI AI Nvidia AMD Intel GPGPU AI 1.AI 2.3.-25-2.2.2 A Survey of Large Language Models-26-AI=+AI 2.2.2 CSDN Gutenberg Book Bibliotik Journey Reddit Common Crawl Databricks Appen Vearch Pinecone WeaviateBV Chroma Qdrant Milvus TensorDB Om-iBASE RLHF ranking-27-2.2.2 AIGC AI Pinecone 7.5 Weaviate 2 Chroma 7500Milvus Zilliz B 1.13 Vearch TensorDB Om-iBASE MLflow Databricks Neptune AI Microsoft Azure Amazon Sagemaker Weights and Biases 10 DagsHub AI DataCanvas AOS C+1 Google Feast Featuretools AWS Feature Store Tecton.ai 1.6 Hopswork.ai AI DataCanvas AOS OpenMLDB Google Vertex AI Microsoft Azure AI builder AWS SageMaker Dataiku 14 MLflow ModelArts AI DagShub Databricks 380 DVC AI DataCanvas AOS-28-2.3.1 MaaS IOT API-29-2.3.2 Embodied AI 1950 Computing Machinery and Intelligence Held Hein:AI perception-action loop AlphaGo AI-30-2.3.2-AI AI AI-31-2.3.2 PaLM-E 2023 3 6 5620 PaLM-E 540B PaLM 22B Transformer ViT 2023 5 17(Optimus)Tesla Bot bot Tesla Bot 100 Nvidia VIMA 2023 5 17 ITF World 2023 Embodied AI Nvidia VIMA PaLM-E PaLM-E ITF World 2023 Tesla Bot-32-2.4 AIGC+AIGC C B B finetune-33-2.4.1 AIGC AIGC AIGC AI AIGC AIGC AIGC 3D AI Game Bot AI-34-Excel Copilot 2.4.1 AIGC+Microsoft 365 Copilot AI PowerPoint Copilot Word Copilot Teams Copilot Outlook Copilot-35-2.4.1 AIGC+AIGC APPSO WPS Office Microsoft 365 AIGC+AIGC+WPS AIGC+WPS AI WPS AI PDF WPS PPT demo WPS API PPT WPS PPT WPS AI-36-2.4.1 AI+/Adobe Sensei GenAI AIGC Adobe AI Adob e Sensei GenAI AI Adobe Firefly AI Adob e Experience Manager Sites AdobeMarketo Engage AIGC AIGC AI Adobe FireflyAI Adobe Real-Time CDPAI AI Customer Journey Analytics-37-2.4.2 AIGC AIGC AIGC AI AI AIGC finetune+AIGC AIGC AI AIGC AIGC AI AI-38-2.4.2 AIGC+AIGC AIGC 1V1 GPT-4 AI 2023 3 16 GPT-4 Duolingo Max Duolingo Max 30/168/Duo”Blog-39-2.4.2 AIGC+AIGC 30 AI+AI-40-2.4.2 AIGC+AIGC+/+BullFrog AI bfLEAP medGPT win-GPT+GBI GBIbot+Nuance AI AI AI GPT-2 PaLM ERNIE-Health GPT-4 BioGPT larger 15 PubMedQA 81%MedPaLM 1.0 USMLE 67.2%2.0 85.4%ERNIE-Health/9955.HK CIouDPT AI AI-41-2.4.2 AIGC+BloombergGPT GPT 500 BloombergGPT BloombergGPT NLP BloombergGPT Bloomberg Bloomberg 3630 token 3450token 7000 token BloombergGPT AIGC Bloomberg BloombergGPT-42-2.4.2 AIGC+B AI i AI i AI 40 22 6.14 1463 1942 AI&ARPU i AI AI-43-2.4.2 AIGC+Shopify AIGC 2023 3 1 Shopify ChatGPT API ChatGPT Shopify Shopify ChatGPT Shopify Amazon AI-44-2.4.3 AIGC 36 RPA 10 2023 A 2100 2023 10 2023 15 2023 10 2023 10 2022 4000 2022 15 2022 1000 2022 ARR 1000 2022 21 2021 10 2022 1.1 2022 AI21 Labs 6.64 2022 Replit 11.6 2023 1550 2022 5.5 2022 20 2022 103 2021-45-2.4.3 AIGC/3D 10 1.2 A A+B pre-A Pre-A+10 C 3 A A 100 13.6 D 10 D 800 A 1.5 A pre-A 1 5 10 1.8 D B2 pre-A A+20 10 A+36-46-OpenAI引领AI产业变革，大模型百花齐放AIGC风靡一二级市场，标的选择大浪淘沙 风险防微杜渐，监管与发展同行 AIGC潜 在 的 风险 国内外大模型的监管 OpenAI 的 应 对之 策 投资建议-47-AIGC AIGC AIGC AIGC AIGC AIGC AIGC AIGC AI AI AIGC AIGC AIGC AIGC AIGC 3.1 AIGC-48-AI 3.2.1 36 ChatGPT AI ChatGPT AI 4 4 OPC OpenAI OpenAI 5 4 OpenAI Anthropic CEO AI Anthropic Hugging Face NVIDIA OpenAI Stability AI AI 4 11 AI 4 12 OpenAI ChatGPT 4 13 C h a t GPT“OpenAI 5 19 chatGPT 5 19 ChatGPT AI Copilot Copilot 3 ChatGPT 20 ChatGPT-49-2023 4 11 AI 3.2.2，-50-3.3 OpenAI OpenAI GPT-4 Technical Report OpenAI RLHF GPT-4 6 GPT-3.5GPT-4 40%GPT-3.5 GPT-4 82%AI OpenAI AIGC GPT-4 50 AI RBRMs GPT-4 RLHF prompt rule-based reward models RBRMs GPT-4 GPT-4-51-OpenAI引领AI产业变革，大模型百花齐放AIGC风靡一二级市场，标的选择大浪淘沙 风险防微杜渐，监管与发展同行 投资建议-52-AIGC AIGC AIGC OpenAI GPT-4 GPT-4 AI AIGC AIGC MaaS AIGC AI finetune MaaS/IOT GPT/AIGC+AIGC/“C B”C B AIGC“”AIGC AIGC AI AI AI-53-AI AI AI AI 3 2 28 AI AI AI AI AIGC AI AI-54-1 AIGC C B AIGC 2023-04-062 AIGC AIGC 2023-04-023 AI+AI+2023-03-184 ChatGPT AI AIGC 2023-02-08-55-负责本研究报告的每一位证券分析师，在此 申明，本报告 清晰、准确地 反映了 分析师 本人的 研究观 点。本 人薪酬的任何部分过去不曾与、现在不与，未来 也将不 会与本 报告中 的具体 推荐或 观点直 接或间 接相关。2017 2020 2022 2016/17 2020 2021-56-报告中所涉及的投资评级采用相对评 级体系，基于 报告发 布日后6-12个月内公 司股价（或行 业指数）相对 同期当地市场基准指数的市场表现预期。其 中，A 股市 场以沪 深300指数为基准；香港 市场以 恒生指 数为基 准；美 国市场以标普500 指数为基准。具体标准如下：股票评级强烈推荐：预期公司股价涨幅超越基 准指数20%以上增持：预期公司股价涨幅超越基准指 数5-20%之间中性：预期公司股价变动幅度相对基 准指数 介于 5%之间减持：预期公司股价表现弱于基准指 数5%以上行业评级推荐：行业基本面向好，预期行业指 数超越 基准指 数中性：行业基本面稳定，预期行业指 数跟随 基准指 数回避：行业基本面转弱，预期行业指 数弱于 基准指 数-57-本报告由招商证券股份有限公司（以 下简称“本公 司”）编制。本公司 具有中 国证监 会许可 的证券 投资咨 询业务资格。本报告基于合法取得的信息，但本 公司对 这些信 息的准 确性和 完整性 不作任 何保证。本报 告所包 含的分析基于各种假设，不同假设可能导 致分析 结果出 现重大 不同。报告中 的内容 和意见 仅供参 考，并 不构成 对所述证券买卖的出价，在任何情况下，本报告 中的信 息或所 表述的 意见并 不构成 对任何 人的投 资建议。除法 律或规则规定必须承担的责任外，本公司 及其雇 员不对 使用本 报告及 其内容 所引发 的任何 直接或 间接损 失负任 何责任。本公司或关联机构可能会持有报 告中所 提到的 公司所 发行的 证券头 寸并进 行交易，还可 能为这 些公司 提供或争取提供投资银行业务服务。客户 应当考 虑到本 公司可 能存在 可能影 响本报 告客观 性的利 益冲突。本报告版权归本公司所有。本公司保 留所有 权利。未经本 公司事 先书面 许可，任何机 构和个 人均不 得以任 何形式翻版、复制、引用或转载，否则，本公司 将保留 随时追 究其法 律责任 的权利。-58-Thank You
展开阅读全文