论文部分内容阅读
超大预训练模型（Pre-trained model, PTM）是人工智能领域近年来迅速崛起的研究方向,在自然语言处理（Natural language processing, NLP）和计算机视觉等多种任务中达到了有史以来的最佳性能,促进了人工智能生成内容（Artificial intelligence-generated content, AIGC）的发展和落地. ChatGPT作为当下最火热的PTM,更是以优异的表现获得各界的广泛关注.本文围绕ChatGPT展开.首先概括PTM的基本思想并对其发展历程进行梳理;接着,详细探讨ChatGPT的技术细节,并以平行智能的视角阐述ChatGPT;最后,从技术、范式以及应用等多个方面对PTM的发展趋势进行展望.