无需人工干预，生成式人工智能可以完成哪些任务？

执行摘要

生成式人工智能（AI）——这项使机器能够创建文本、图像、代码等的技术——近年来经历了爆炸式增长。本白皮书以通俗易懂的方式概述了生成式人工智能可靠完成的任务，以及未来十年的预期发展方向。我们调查了其在写作、艺术、编程、客户服务、医疗保健、教育、物流和金融等领域的应用，重点介绍了人工智能可以自主运行的领域以及人类监督仍然至关重要的领域。文中列举了真实案例，以说明其成功之处和局限性。主要发现包括：

广泛应用： 2024年，65%的受访公司表示会定期使用生成式人工智能——这一比例几乎是上一年的两倍（《 2024年初人工智能现状》| 麦肯锡）。其应用涵盖营销内容创作、客户支持聊天机器人、代码生成等诸多领域。
当前自主能力：如今的生成式人工智能能够可靠地处理结构化、重复性任务，且只需极少的人工干预。例如，它可以自动生成公式化的新闻报道（如公司盈利摘要）（菲拉娜·帕特森 – ONA 社区简介），在电商网站上生成产品描述和评论摘要，以及自动补全代码。在这些领域，人工智能通常通过接管日常内容生成工作来辅助人类员工。
复杂任务的人机协作：对于更复杂或开放式的任务——例如创意写作、详细分析或医疗建议——通常仍需要人工监督，以确保事实准确性、伦理判断和质量。如今，许多人工智能部署都采用“人机协作”模式，即人工智能撰写内容，然后由人工进行审核。
近期改进：预计未来 5-10 年，生成式人工智能将变得更加可靠和自主。模型精度和防护机制的进步将使人工智能能够在极少人工干预的情况下处理更多创意和决策任务。例如，专家预测，到 2030 年，人工智能将实时处理大部分客户服务互动和决策（《重塑客户体验：营销人员必须做到这两点》），一部大型电影的制作中 90% 的内容可能由人工智能生成（《面向行业和企业的生成式人工智能应用案例》）。
到2035年：我们预计，在未来十年内，自主人工智能代理将在许多领域得到广泛应用。人工智能导师可以大规模提供个性化教育，人工智能助手可以可靠地起草法律合同或医疗报告供专家签字，而自动驾驶系统（借助生成式模拟技术）可以端到端地运行物流业务。然而，某些敏感领域（例如高风险的医疗诊断、最终法律裁决）可能仍然需要人类判断以确保安全性和问责性。
伦理与可靠性问题：随着人工智能自主性的发展，相关担忧也日益增多。目前的问题包括：幻觉（捏造事实）、生成内容存在偏见、缺乏透明度以及可能被滥用于散布虚假信息。确保人工智能在缺乏监管的情况下运行仍值得信赖至关重要。尽管已取得一些进展——例如，各组织正在加大对风险缓解的投入（解决准确性、网络安全和知识产权问题）（《人工智能现状：全球调查》| 麦肯锡）——但仍需要健全的治理和伦理框架。
本文结构：首先介绍生成式人工智能以及自主应用与监督应用的概念。然后，针对每个主要领域（写作、艺术、编程等），讨论人工智能目前能够可靠完成的任务以及未来的发展方向。最后，总结了生成式人工智能面临的跨领域挑战、未来展望以及负责任地利用该技术的建议。

总体而言，生成式人工智能已经证明其能够在无需持续人工指导的情况下处理种类繁多的任务。通过了解其当前的局限性和未来的潜力，企业和公众可以更好地为人工智能不再仅仅是工具，而是工作和创造中自主协作伙伴的时代做好准备。.

介绍

人工智能早已具备分析数据的能力，但直到最近，人工智能系统才学会创造——撰写散文、创作图像、编写软件等等。这些生成式人工智能模型（例如用于文本的 GPT-4 或用于图像的 DALL·E）通过海量数据集进行训练，能够根据提示生成新颖的内容。这一突破在各行各业掀起了一股创新浪潮。然而，一个关键问题随之而来：在没有人工复核的情况下，我们究竟能信任人工智能自主完成哪些工作？

监督式和自主式至关重要：

人工监督式人工智能指的是人工智能的输出结果在最终定稿前需要经过人工审核或修改的场景。例如，记者可以使用人工智能写作助手撰写文章初稿，但最终仍需由编辑进行编辑和批准。
自主人工智能（无需人工干预的人工智能）是指能够执行任务或生成内容，且几乎无需人工编辑即可直接投入使用的人工智能系统。例如，自动聊天机器人无需人工客服即可解答客户咨询，或者新闻媒体自动发布由人工智能生成的体育赛事比分回顾。

生成式人工智能（GI）已在两种模式下得到应用。 2023年至2025年间，其应用呈爆炸式增长，各组织机构积极进行试验。2024年的一项全球调查发现，65%的公司正在定期使用生成式人工智能，而就在一年前，这一比例约为三分之一（《 2024年初人工智能现状》| 麦肯锡）。个人用户也开始使用ChatGPT等工具——据估计，到2023年中期，约有79%的专业人士至少接触过一些生成式人工智能（《 2023年人工智能现状：生成式人工智能的突破之年》| 麦肯锡）。这种快速普及源于其在效率和创造力提升方面的巨大潜力。然而，目前仍处于“早期阶段”，许多公司仍在制定如何负责任地使用人工智能的政策（《 2023年人工智能现状：生成式人工智能的突破之年》| 麦肯锡）。

为什么自主性至关重要：让人工智能在无人监督的情况下运行可以带来巨大的效率提升——完全自动化繁琐的任务——但也提高了可靠性的要求。自主运行的人工智能代理必须确保一切正确无误（或者了解自身的局限性），因为可能没有人类实时介入来纠正错误。有些任务比其他任务更适合自主运行。一般来说，人工智能在以下情况下自主运行效果最佳：

该任务具有清晰的结构或模式（例如，根据数据生成例行报告）。
错误风险较低或容易容忍（例如，如果图像生成不理想，可以丢弃，而医疗诊断则不然）。
由于有充足的训练数据涵盖各种场景，因此人工智能的输出是基于真实案例的（减少了猜测）。

相比之下，那些开放式、高风险或需要细致判断的任务，如今不太适合零监督。

在接下来的章节中，我们将探讨一系列领域，了解生成式人工智能的现状和未来发展方向。我们将着重分析具体案例——从人工智能撰写的新闻文章和生成的艺术作品，到代码编写助手和虚拟客服代理——并重点阐述哪些任务可以由人工智能端到端完成，哪些任务仍然需要人工参与。对于每个领域，我们都会清晰地区分当前能力（约2025年）和到2035年可能达到的可靠水平。.

通过梳理人工智能在各个领域的现状与未来，我们旨在为读者提供一个平衡的理解：既不夸大人工智能的神奇之处，也不低估其日益增长的强大能力。在此基础上，我们将探讨在无人监督的情况下信任人工智能所面临的总体挑战，包括伦理考量和风险管理，最后总结关键要点。.

生成式人工智能在写作和内容创作中的应用

生成式人工智能最早引起轰动的领域之一是文本生成。大型语言模型可以生成各种内容，从新闻文章和营销文案到社交媒体帖子和文档摘要。但是，这些写作中有多少可以完全脱离人工编辑呢？

当前能力（2025 年）：人工智能作为日常内容的自动编写者

如今，生成式人工智能能够可靠地处理各种日常写作任务，几乎无需人工干预。新闻业就是一个典型的例子：美联社多年来一直利用自动化技术，直接从财务数据源生成数千份公司财报（菲拉娜·帕特森 – ONA社区简介）。这些简短的新闻稿件遵循统一的模板（例如，“X公司公布盈利Y，增长Z%……”），人工智能（使用自然语言生成软件）能够比任何人都更快地填充数字和文字。美联社的系统自动发布这些报告，大幅扩展了其报道范围（每季度超过3000篇报道），而无需人工撰写（自动化财报报道数量激增 | 美联社）。

体育新闻报道也得到了类似的增强：人工智能系统可以利用体育比赛统计数据生成赛事回顾报道。由于这些领域数据驱动且模式化，只要数据正确，出错的概率就很低。在这些案例中，我们看到了真正的自主性——人工智能撰写内容，并立即发布。

企业也在利用生成式人工智能来撰写产品描述、电子邮件简报和其他营销内容。例如，电商巨头亚马逊现在就利用人工智能来总结产品的客户评论。人工智能会扫描大量评论文本，生成一段简洁明了的摘要，概括人们对该产品的喜爱或不满之处，然后无需人工编辑即可显示在产品页面上（亚马逊利用人工智能改善客户评论体验）。下图展示了亚马逊移动应用上部署的这项功能，“客户评价”部分完全由人工智能根据评论数据生成：

（亚马逊利用人工智能改善顾客评论体验）在电商产品页面上显示人工智能生成的评论摘要。亚马逊的系统将用户评论中的常见要点（例如，易用性、性能）总结成一段简短的文字，并以“人工智能根据顾客评论文本生成”的字样展示给购物者。

这些用例表明，当内容遵循可预测的模式或由现有数据聚合而成时，人工智能通常可以独立处理。其他当前示例包括：

天气和交通信息更新：媒体机构利用人工智能技术，根据传感器数据编制每日天气预报或交通公告。
财务报告：企业自动生成简明的财务摘要（季度业绩、股市简报）。自 2014 年以来，彭博社和其他新闻媒体已开始使用人工智能辅助撰写公司盈利新闻稿——一旦输入数据，该过程基本自动运行（美联社的“机器人记者”现在正在撰写自己的报道 | The Verge ）（怀俄明州记者被抓到使用人工智能伪造引言和报道）。
翻译和转录：转录服务现在利用人工智能生成会议记录或字幕，无需人工录入。虽然这些语言任务并非在创作意义上具有生成性，但它们能够自主运行，准确率高，音频清晰。
草稿生成：许多专业人士使用 ChatGPT 等工具来起草电子邮件或文档的初稿，如果内容风险较低，有时会几乎不做任何修改就发送出去。

然而，对于更复杂的文章，人工审核在2025年仍然是常态。新闻机构很少直接发表人工智能生成的调查性或分析性文章——编辑会对人工智能撰写的草稿进行事实核查和润色。人工智能可以模仿风格和结构，但可能会引入事实错误（通常被称为“幻觉”）或措辞生硬等问题，这些问题需要人工识别。例如，德国《快报》（Express）引入了一位名为克拉拉（Klara）的人工智能“数字同事”来辅助撰写新闻稿。克拉拉可以高效地撰写体育报道，甚至能写出吸引读者的标题，贡献了《快报》11%的文章——但人工编辑仍然会对每篇文章进行审核，以确保其准确性和新闻操守，尤其是在处理复杂新闻时（参见Twipe网站文章《记者在新闻编辑室中使用人工智能工具的12种方式》）。这种人机协作模式如今十分普遍：人工智能负责生成文本等繁重工作，而人工则根据需要进行编辑和校对。

2030-2035 年展望：迈向可信赖的自主写作

未来十年，我们预计生成式人工智能在生成高质量、事实准确的文本方面将变得更加可靠，这将拓宽其能够自主处理的写作任务范围。以下几个趋势支持这一观点：

准确性提升：持续的研究正在迅速降低人工智能产生错误或无关信息的倾向。到2030年，经过更完善训练的先进语言模型（包括实时数据库事实验证技术）有望实现接近人类水平的内部事实核查。这意味着人工智能可以自动撰写一篇完整的新闻文章，其中包含从原始资料中提取的正确引语和统计数据，几乎无需编辑。
领域特定人工智能：我们将看到更多针对特定领域（例如法律、医疗、技术写作）进行微调的专业生成模型。到2030年，法律人工智能模型或许能够可靠地起草标准合同或总结案例法——这些任务结构固定，但目前却需要律师花费大量时间。如果人工智能模型使用经过验证的法律文件进行训练，其生成的草稿可能足够可靠，律师只需快速审阅即可。
自然风格与连贯性：模型在维护长篇文档的上下文方面越来越出色，从而生成更连贯、更切题的长篇内容。到2035年，人工智能或许能够独立撰写出一本像样的非虚构类书籍或技术手册的初稿，而人类主要扮演顾问角色（设定目标或提供专业知识）。

这在实践中会是什么样子？领域的新闻报道可能会几乎完全自动化。我们或许会在2030年看到，新闻机构的每份财报、体育报道或选举结果更新的初稿都由人工智能系统撰写，编辑只需抽取少量进行质量把关。事实上，专家预测，越来越多的网络内容将由机器生成——行业分析师的一项大胆预测指出，到2026年，高达90%的网络内容可能由人工智能生成（ OODAloop：《到2026年，非人类生成的网络内容将远远超过人类生成的内容》），尽管这一数字仍存在争议。即使是更为保守的预测也意味着，到2030年代中期，大多数常规网络文章、产品文案，甚至个性化新闻推送都将由人工智能撰写。

在市场营销和企业传播领域，生成式人工智能很可能被赋予自主运行整个营销活动的能力。它可以生成并发送个性化的营销邮件、社交媒体帖子和广告文案，并根据客户的反馈不断调整信息——所有这些都无需人工文案参与。Gartner 分析师预测，到 2025 年，至少 30% 的大型企业对外营销信息将由人工智能合成生成（《面向行业和企业的生成式人工智能应用案例》），而到 2030 年，这一比例还将继续上升。

然而，值得注意的是，人类的创造力和判断力仍然会发挥作用，尤其是在处理高风险内容时。到2035年，人工智能或许能够独立处理新闻稿或博客文章，但对于涉及问责或敏感话题的调查性新闻报道，媒体机构可能仍然会坚持人工审核。未来很可能采用分层式方法：人工智能自主生成大部分日常内容，而人类则专注于编辑和制作具有战略意义或敏感的内容。本质上，随着人工智能能力的提升，“常规”工作的界限将会不断扩大。

人工智能生成的交互式叙事或个性化报告等新型内容形式可能会涌现。例如，人工智能可以生成多种风格的公司年度报告——面向高管的简报、面向员工的叙事版本以及面向分析师的数据丰富版本——每种版本都基于相同的基础数据自动生成。在教育领域，人工智能可以动态编写教科书，以适应不同的阅读水平。这些应用在很大程度上可以自主运行，但其基础是经过验证的信息。

写作的发展轨迹表明，到2030年代中期，人工智能将成为一位高产的作家。真正实现自主运行的关键在于建立对其输出内容的信任。如果人工智能能够持续展现出事实准确性、文风质量以及与伦理标准的一致性，那么逐行人工审校的需求将会减少。到2035年，本白皮书的部分内容很可能由人工智能研究人员独立撰写，无需编辑——只要有适当的保障措施到位，我们对此前景持谨慎乐观的态度。

视觉艺术与设计中的生成式人工智能

生成式人工智能（AI）创作图像和艺术作品的能力已经激发了公众的想象力，从AI生成的绘画作品赢得艺术比赛，到与真实视频难以区分的深度伪造视频，无不如此。在视觉领域，诸如生成对抗网络（GAN）和扩散模型（例如稳定扩散模型、Midjourney）之类的AI模型可以根据文本提示生成原创图像。那么，AI现在能否像一位自主艺术家或设计师那样运作呢？

当前能力（2025 年）：人工智能作为创意助手

截至2025年，生成模型已能按需创建图像。用户可以要求图像人工智能绘制“梵高风格的日落中世纪城市”，并在几秒钟内获得一幅极具艺术感的图像。这使得人工智能在平面设计、市场营销和娱乐领域得到广泛应用，用于概念艺术、原型制作，甚至在某些情况下用于最终视觉效果的制作。值得注意的是：

平面设计与图库图片：企业利用人工智能生成网站图片、插图或图库照片，从而减少了每件作品都需要委托艺术家创作的需求。许多营销团队使用人工智能工具生成广告或产品图片的各种版本，以测试哪些内容更能吸引消费者。
艺术与插画：艺术家们与人工智能合作，共同构思创意或完善细节。例如，插画师可以使用人工智能生成背景，然后将其与自己绘制的人物形象融合在一起。一些漫画创作者也尝试过使用人工智能生成分镜或进行着色。
媒体与娱乐：人工智能生成的艺术作品已出现在杂志封面和书籍封面上。一个著名的例子是2022年8月刊的《Cosmopolitan》杂志封面，封面人物是一位宇航员——据报道，这是首张由人工智能（OpenAI的DALL·E）在艺术总监的指导下创作的杂志封面图像。虽然这其中涉及人工提示和选择，但实际的艺术作品是由机器渲染的。

至关重要的是，目前大多数此类应用仍然需要人工筛选和迭代。人工智能可以生成数十张图像，然后由人从中挑选最佳图像，并可能进行润色。从这个意义上讲，人工智能自主生成选项，但最终的决策权在于人类，他们负责引导创意方向并做出最终选择。人工智能能够快速可靠地生成大量内容，但并不能保证第一次就能满足所有要求。诸如细节错误（例如，人工智能绘制的手部手指数量错误，这是一个已知的缺陷）或意外结果等问题，通常需要人工艺术总监来监督输出质量。

然而，在某些领域，人工智能正接近完全自主：

生成式设计：在建筑和产品设计等领域，人工智能工具可以自主创建符合特定约束条件的设计原型。例如，给定一件家具所需的尺寸和功能，生成式算法可以输出多个可行的设计方案（其中一些相当新颖），而无需人工干预，只需提供初始规格即可。这些设计方案可以直接供人使用或改进。同样，在工程领域，生成式人工智能可以设计出重量和强度都经过优化的零件（例如飞机部件），从而创造出人类可能从未设想过的新颖形状。
电子游戏资源：人工智能可以自动生成纹理、3D模型，甚至整个游戏关卡。开发者利用这些技术来加快内容创作速度。一些独立游戏已经开始采用程序生成的艺术作品，甚至对话（通过语言模型生成），从而以极少的人工素材打造庞大而动态的游戏世界。
动画和视频（新兴领域）：虽然生成式人工智能在视频领域的发展不如静态图像成熟，但它正在快速进步。人工智能已经可以根据提示生成短视频片段或动画，但质量参差不齐。深度伪造技术（一种生成式技术）可以制作逼真的换脸或声音克隆。在可控环境下，工作室可以使用人工智能自动生成背景场景或人群动画。

值得注意的是，Gartner预测，到2030年，我们将看到一部90%的内容（从剧本到视觉效果）都由人工智能生成的大型电影（《面向行业和企业的生成式人工智能应用案例》）。截至2025年，我们尚未实现这一目标——人工智能还无法独立制作一部长篇电影。但构成这一目标的各个部分正在逐步发展：剧本生成（文本人工智能）、角色和场景生成（图像/视频人工智能）、配音（人工智能语音克隆）以及剪辑辅助（人工智能已经可以辅助剪辑和转场）。

2030-2035年展望：大规模人工智能生成媒体

展望未来，生成式人工智能在视觉艺术和设计领域的作用有望大幅扩展。我们预计，到2035年，人工智能将成为主要内容创作者，通常只需少量的人工干预（除了初始指导）。以下是一些预期：

完全由人工智能生成的电影和视频：未来十年，我们很可能会看到首批主要由人工智能制作的电影或剧集。人类可能提供高层指导（例如剧本大纲或所需风格），而人工智能将负责渲染场景、创建演员形象并制作所有动画。短片的早期实验可能在几年内出现，而长篇作品的尝试则可能在2030年代展开。这些人工智能电影最初可能属于小众领域（例如实验动画等），但随着质量的提高，它们可能会成为主流。Gartner预测到2030年，90%的电影将由人工智能生成（《面向行业和企业的生成式人工智能应用案例》），虽然这一预测雄心勃勃，但也凸显了业界对人工智能内容创作的信心，即人工智能内容创作将足够成熟，能够承担电影制作的大部分工作。
设计自动化：在时尚或建筑等领域，生成式人工智能很可能被用于根据“成本、材料、风格X”等参数自主生成数百个设计概念，最终由人类从中挑选出最终设计。这将颠覆当前的设计模式：未来的设计师不再是从零开始创作，然后可能借助人工智能寻找灵感，而是更像是策展人，从人工智能生成的优秀设计中挑选出最佳方案，并可能进行一些调整。到2035年，建筑师只需输入建筑需求，即可从人工智能那里获得完整的蓝图建议（所有方案都结构合理，这得益于内置的工程规则）。
个性化内容创作：我们或许会看到人工智能为用户即时生成视觉内容。想象一下，在2035年，电子游戏或虚拟现实体验中的场景和角色会根据玩家的喜好实时调整，这一切都由人工智能生成。又或者，根据用户的一天生成个性化漫画——一个自主的“每日日记漫画”人工智能，每天晚上自动将你的文字日记转换成插图。
多模态创意：生成式人工智能系统正日益趋向多模态化——这意味着它们可以同时处理文本、图像、音频等多种信息。通过整合这些信息，人工智能可以接收诸如“为产品 X 制作营销活动”之类的简单指令，并生成风格一致的文字文案、配套的图片，甚至可能是简短的宣传视频。这种一键式内容套件有望在 2030 年代初成为一项服务。

人工智能会取代人类艺术家吗？这个问题经常被提及。人工智能很可能会承担大量的生产工作（尤其是商业所需的重复性或快速交付的艺术作品），但人类的艺术才能仍将保留，因为它能带来原创性和创新性。到2035年，自主人工智能或许能够可靠地绘制出一幅风格与著名艺术家相似的画作——但创造一种全新的风格或创作具有深刻文化共鸣的艺术作品，可能仍然是人类的强项（人工智能或许可以作为合作者）。我们预见，未来人类艺术家将与自主人工智能“合作艺术家”并肩工作。例如，人们可以委托个人人工智能持续为家中的数字画廊创作艺术作品，从而营造不断变化的创作氛围。

从可靠性角度来看，视觉生成式人工智能在某些方面比文本更容易实现自主运行：图像即使不完美，主观上也可以“足够好”，而文本中的事实性错误则更成问题。因此，我们已经看到其应用风险相对较低——如果人工智能生成的设计不美观或有误，你只需不用它，它本身并不会造成任何损害。这意味着到2030年代，企业或许可以放心地让人工智能在无人监督的情况下生成设计，只有在需要真正新颖或高风险的设计时才需要人工干预。

总而言之，到2035年，生成式人工智能有望成为视觉内容创作的强大引擎，很可能将主导我们周围大部分的图像和媒体内容。它将可靠地生成用于娱乐、设计和日常交流的内容。自主艺术家即将诞生——然而，人工智能究竟被视为具有创造力，还是仅仅是一个非常智能的工具，这一争论将会随着其输出与人类创作的作品越来越难以区分而不断演变。

软件开发中的生成式人工智能（编码）

软件开发看似是一项高度分析性的工作，但它也包含创造性的元素——编写代码本质上是用结构化语言创建文本。现代生成式人工智能，尤其是大型语言模型，已经证明其在编码方面非常擅长。GitHub Copilot、Amazon CodeWhisperer 等工具可以充当人工智能结对程序员，在开发者输入代码时提供代码片段甚至整个函数的建议。这种技术在实现自主编程方面究竟能走多远？

当前能力（2025 年）：人工智能作为编码副驾驶

到 2025 年，人工智能代码生成器将成为许多开发人员工作流程中的常见工具。这些工具可以自动补全代码行，生成样板代码（例如标准函数或测试），甚至可以根据自然语言描述编写简单的程序。但至关重要的是，它们需要在开发人员的监督下运行——开发人员需要审查并整合人工智能的建议。.

一些最新事实和数据：

到 2023 年底，超过半数的专业开发人员已经采用了 AI 编码助手（《Copilot 编码：2023 年数据表明代码质量面临下行压力（含 2024 年预测）》- GitClear ），这表明 AI 编码助手的普及速度非常快。GitHub Copilot 是最早广泛应用的工具之一，据报道，在其应用的项目中，AI 平均生成了 30-40% 的代码（《编码不再是护城河。GitHub 上 46% 的代码已经是 AI 生成的…… 》）。这意味着 AI 已经在编写相当一部分代码，尽管仍然由人类进行指导和验证。
这些人工智能工具擅长编写重复性代码（例如，数据模型类、getter/setter 方法）、将一种编程语言转换为另一种编程语言，或者生成类似于训练示例的简单算法。例如，开发人员可以添加注释“// 按名称对用户列表进行排序的函数”，人工智能几乎可以立即生成相应的排序函数。.
它们还能协助修复漏洞和提供解释：开发者可以粘贴错误信息，人工智能可能会建议修复方案，或者询问“这段代码的作用是什么？”，并获得自然语言的解释。从某种意义上说，这是自主的（人工智能可以自行诊断问题），但最终是否应用修复方案仍由人来决定。
重要的是，目前的AI编码助手并非完美无缺。它们可能会建议不安全的代码，或者看似解决了问题但却存在不易察觉的漏洞的代码。因此，目前的最佳实践是让开发者全程参与——开发者像测试和调试人类编写的代码一样测试和调试AI编写的代码。在受监管的行业或关键软件（例如医疗或航空系统）中，任何AI贡献都必须经过严格的审查。

目前，主流软件系统中没有完全由人工智能从零开始编写且没有开发人员监督的。然而，一些自主或半自主的应用正在涌现：

自动生成的单元测试：人工智能可以分析代码并生成单元测试来覆盖各种情况。测试框架可以自主生成并运行这些由人工智能编写的测试，以捕获错误，从而增强人工编写的测试。
低代码/无代码人工智能平台：一些平台允许非程序员描述他们的需求（例如“构建一个包含联系表单和数据库以保存条目的网页”），然后系统会自动生成代码。虽然这项技术仍处于早期阶段，但它预示着未来人工智能或许能够自主地为标准用例创建软件。
脚本编写和粘合代码： IT 自动化通常涉及编写脚本来连接系统。人工智能工具通常可以自动生成这些小型脚本。例如，编写一个解析日志文件并发送电子邮件警报的脚本——人工智能可以生成一个几乎无需修改即可运行的脚本。

2030-2035 年展望：迈向“自开发”软件

未来十年，生成式人工智能有望承担更大的编码负担，并在某些类型的项目中逐步实现完全自主的软件开发。一些预测的发展趋势如下：

完整功能实现：我们预计到 2030 年，人工智能将能够端到端地实现简单的应用程序功能。产品经理可以用简单的语言描述一个功能（例如“用户应该能够通过电子邮件链接重置密码”），人工智能就可以生成必要的代码（前端表单、后端逻辑、数据库更新、电子邮件发送），并将其集成到代码库中。人工智能实际上可以像一个初级开发人员一样，遵循规范进行开发。人类工程师可能只需要进行代码审查和运行测试。随着人工智能可靠性的提高，代码审查甚至可能只需快速浏览即可。
自主代码维护：软件工程的重要组成部分不仅是编写新代码，还包括更新现有代码——修复漏洞、提升性能、适应新的需求。未来的人工智能开发者很可能在这方面表现出色。给定一个代码库和一个指令（例如“当太多用户同时登录时，我们的应用程序会崩溃”），人工智能可以定位问题（例如并发错误）并进行修复。到2035年，人工智能系统或许能够自动处理夜间例行维护工单，成为软件系统不知疲倦的维护团队。
集成和 API 使用：随着越来越多的软件系统和 API 提供 AI 可读文档，AI 代理可以通过编写粘合代码，独立地弄清楚如何将系统 A 与服务 B 连接起来。例如，如果一家公司希望其内部人力资源系统与新的薪资 API 同步，他们可以委托 AI 来“让这两个系统相互通信”，AI 将在读取两个系统的规范后编写集成代码。
质量与优化：未来的代码生成模型很可能会融入反馈循环，以验证代码的有效性（例如，在沙箱环境中运行测试或模拟）。这意味着人工智能不仅可以编写代码，还可以通过测试进行自我纠错。到2035年，我们可以设想这样一种人工智能：给定一项任务，它会不断迭代代码，直到所有测试都通过——这个过程人类可能无需逐行监控。这将极大地增强人们对自主生成代码的信任。

我们可以设想，到2035年，小型软件项目——例如为企业定制的移动应用——可能主要由人工智能代理根据高级指令开发完成。在这种情况下，人类“开发者”更像是项目经理或验证者，负责明确需求和约束条件（例如安全性、风格指南），而让人工智能完成繁重的实际编码工作。.

然而，对于复杂的大型软件（例如操作系统、高级人工智能算法等），人类专家仍将深度参与其中。软件中的创造性问题解决和架构设计在一段时间内可能仍将由人类主导。人工智能或许可以处理大量的编码任务，但决定什么以及设计整体结构则是一项不同的挑战。也就是说，随着生成式人工智能开始协作——多个人工智能代理处理系统的不同组件——它们或许可以在一定程度上共同设计架构（例如，一个人工智能提出系统设计方案，另一个人工智能对其进行评估，然后它们迭代改进，整个过程由人类监督）。

人工智能在编码领域的一项主要预期优势是显著提升生产力。Gartner 预测，到 2028 年，将有高达 90% 的软件工程师使用人工智能代码助手（2024 年这一比例不足 15%）（ GitHub Copilot 在人工智能代码助手研究报告中名列前茅——Visual Studio Magazine ）。这意味着不使用人工智能的少数群体将会寥寥无几。我们或许还会看到某些领域出现开发人员短缺的情况，而人工智能可以填补这些空缺；本质上，每个开发人员都可以借助能够自主编写代码的人工智能助手来完成更多的工作。

信任仍将是核心问题。即使到了2035年，各组织仍需确保自主生成的代码安全（人工智能不得引入漏洞）并符合法律/道德规范（例如，人工智能不得包含未经授权的开源库抄袭代码）。我们期待能够验证和追踪人工智能代码来源的更完善的人工智能治理工具，从而助力实现更安全、更自主的编码。.

总而言之，到2030年代中期，生成式人工智能很可能承担大部分常规软件任务的编码工作，并在复杂任务中发挥显著辅助作用。软件开发生命周期将更加自动化——从需求分析到部署——人工智能有望自动生成和部署代码变更。人类开发人员将更加专注于高层逻辑、用户体验和监督，而人工智能代理则负责处理实现细节。.

客户服务和支持中的生成式人工智能

如果你最近有过在线客服聊天经历，那么很有可能至少有一部分对话是由人工智能完成的。客户服务领域非常适合人工智能自动化：它涉及回复用户咨询，而生成式人工智能（尤其是对话模型）在这方面表现出色；此外，客户服务通常需要遵循脚本或知识库文章，而人工智能可以学习这些内容。那么，人工智能究竟能在多大程度上自主处理客户事务呢？

当前能力（2025 年）：聊天机器人和虚拟代理将占据前线

如今，许多企业已将人工智能聊天机器人作为客户服务的第一触点。这些聊天机器人种类繁多，从简单的基于规则的机器人（例如“按1查询账单，按2寻求帮助……”）到能够理解自由格式问题并以对话形式回复的高级生成式人工智能聊天机器人，应有尽有。要点：

处理常见问题：人工智能代理擅长回答常见问题，提供信息（例如营业时间、退款政策、已知问题的故障排除步骤），并指导用户完成标准流程。例如，银行的人工智能聊天机器人可以自主帮助用户查询账户余额、重置密码或解释如何申请贷款，无需人工干预。
自然语言理解：现代生成模型能够实现更流畅、更“人性化”的交互。客户可以用自己的语言输入问题，人工智能通常能够理解其意图。企业报告称，如今的人工智能代理比几年前笨拙的聊天机器人更能让客户满意——近一半的客户现在认为人工智能代理在解决问题时能够做到富有同理心且高效（《 2025 年人工智能客户服务统计数据》第 59 页），这表明人们对人工智能驱动的服务越来越信任。
多渠道支持：人工智能的应用不仅限于聊天。语音助手（例如搭载人工智能的电话交互式语音应答系统）也开始处理通话，人工智能还可以自动撰写客户咨询的电子邮件回复，如果回复准确，系统甚至可以自动发送。
人工介入：通常情况下，如果人工智能系统遇到困惑或问题过于复杂，它会将问题转交给人工客服。目前的系统在很多情况下都能很好地识别自身的局限性。例如，如果客户提出不寻常的问题或表现出沮丧的情绪（例如，“这是我第三次联系你们了，我非常生气……”），人工智能系统可能会标记出来，以便人工客服接手。公司会设定转接阈值，以平衡效率和客户满意度。

许多公司报告称，相当一部分客户互动问题已完全由人工智能解决。行业调查显示，目前约有70-80%的日常客户咨询可由人工智能聊天机器人处理，约40%的公司跨渠道客户互动已实现自动化或人工智能辅助（ Plivo 发布的《你应该了解的52个人工智能客户服务统计数据》）。IBM发布的《2022年全球人工智能采用指数》指出，到2025年，80%的公司已经使用或计划使用人工智能聊天机器人提供客户服务。

一个有趣的进展是，人工智能不仅能响应客户，还能主动实时协助人工客服。例如，在在线聊天或通话过程中，人工智能可以聆听客户的声音，并立即为人工客服提供建议答案或相关信息。这模糊了自主性的界限——人工智能并非独自面对客户，而是在无需人工明确询问的情况下积极参与其中。它实际上扮演着人工客服的自主顾问的角色。

2030-2035年展望：人工智能将主导客户互动

到 2030 年，预计大部分客户服务互动都将涉及人工智能，许多互动甚至将完全由人工智能从头到尾处理。以下预测和趋势支持这一观点：

更复杂的查询问题迎刃而解：随着人工智能模型整合海量知识并提升推理能力，它们将能够处理更复杂的客户请求。未来的人工智能不再仅仅回答“如何退货？”这类问题，而是可以处理诸如“我的网络断了，我已经重启过了，你能帮帮我吗？”这类多步骤问题。人工智能会通过对话诊断问题，引导客户进行高级故障排除，只有在所有方法都失败后才会安排技术人员上门服务——这些任务在今天通常需要人工客服才能完成。在医疗保健客户服务领域，人工智能甚至可以端到端地处理患者预约安排或保险查询。
端到端服务解决方案：我们或许会看到人工智能不仅告诉客户该做什么，而且还能在后端系统中代表客户实际执行操作。例如，如果客户说“我想把航班改到下周一，并加一件行李”，那么到2030年，人工智能代理可以直接与航空公司的预订系统对接，完成更改，处理行李费用，并向客户确认——所有这些都是自主完成的。人工智能将成为全方位服务代理，而不仅仅是信息来源。
无处不在的人工智能代理：企业很可能会在所有客户触点部署人工智能——电话、聊天、电子邮件、社交媒体。许多客户甚至可能意识不到自己是在与人工智能还是真人对话，尤其是在人工智能语音越来越自然、聊天回复越来越能感知上下文的情况下。到2035年，联系客服可能意味着与一个智能人工智能互动，它能记住你过去的互动记录，理解你的偏好，并根据你的语气调整回复——本质上，每个客户都将拥有一个个性化的虚拟代理。
人工智能在交互中的决策：除了回答问题，人工智能还将开始做出目前需要管理层批准的决策。例如，如今人工客服可能需要主管批准才能提供退款或特别折扣来安抚愤怒的顾客。未来，在设定的权限范围内，人工智能可以根据计算出的客户终身价值和情感分析结果，被赋予这些决策权。Futurum/IBM 的一项研究预测，到 2030 年，实时客户互动中约 69% 的决策将由智能机器做出（《重塑客户体验：营销人员必须做到这两点》）——实际上，人工智能将决定交互中的最佳行动方案。
人工智能100%参与：每一次客户互动中发挥作用《2025年人工智能客户服务59项统计数据》），无论是在前台还是后台。这意味着，即使客户是由真人客服人员提供服务，人工智能也会提供辅助（例如提供建议、检索信息）。另一种解释是，无论何时，任何客户咨询都不会无人解答——即使客服人员离线，人工智能也始终在线。

到2035年，我们或许会发现，人工客服人员将只专注于处理最敏感或需要高度人性化的场景（例如，VIP客户或需要人性化同理心的复杂投诉）。而从银行、零售到技术支持等常规咨询，则可能由一支全天候工作的AI客服团队来处理，这些AI客服人员会不断从每次互动中学习。这种转变将使客户服务更加一致和快捷，因为AI不会让客户长时间等待，而且理论上可以同时处理多个任务，从而处理无限数量的客户。.

要实现这一愿景，仍面临诸多挑战：人工智能必须足够强大，才能应对人类客户的不可预测性。它必须能够处理俚语、愤怒、困惑以及人们千变万化的沟通方式。此外，它还需要掌握最新的知识（如果人工智能的信息过时，那就毫无意义）。通过投资将人工智能与公司数据库集成（以获取订单、故障等实时信息），这些障碍都可以迎刃而解。.

从伦理角度来看，企业需要决定何时披露“您正在与人工智能对话”这一信息，并确保公平性（人工智能不会因为训练存在偏见而区别对待某些客户）。假设这些问题都得到妥善解决，那么人工智能客服的商业价值就非常显著：它可以大幅降低成本和缩短等待时间。随着企业加大对人工智能客服能力的投资，《2025-2030年人工智能客服市场报告：案例》；《生成式人工智能如何助力物流 | Ryder

总而言之，未来自主人工智能客服将成为常态。寻求帮助通常意味着与智能机器互动，它可以快速解决您的问题。人类仍将参与监督和处理特殊情况，但更多地扮演人工智能团队的管理者角色。最终，消费者将获得更快捷、更个性化的服务——前提是人工智能经过适当的训练和监控，以避免重蹈过去“机器人热线”体验的覆辙。

生成式人工智能在医疗保健和医学领域的应用

医疗保健领域风险极高。人工智能在医疗领域无需人工监督即可运行的想法，既令人兴奋（因为效率和覆盖范围广），也令人担忧（因为安全性和同理心方面存在问题）。生成式人工智能已开始在医学影像分析、临床文档记录甚至药物研发等领域取得进展。它究竟能在哪些方面独立自主地开展工作？

当前能力（2025 年）：辅助临床医生，而非取代他们

目前，生成式人工智能在医疗保健领域主要扮演着强大辅助角色，而非自主决策者的角色。例如：

医疗文档：人工智能在医疗保健领域最成功的应用之一是帮助医生处理文书工作。自然语言模型可以转录患者就诊过程，并生成临床记录或出院小结。一些公司拥有“人工智能速记员”，它们在检查过程中（通过麦克风）聆听，并自动生成就诊记录草稿供医生审核。这节省了医生打字的时间。有些系统甚至可以自动填充电子健康记录的部分内容。这一切都只需极少的人工干预——医生只需纠正草稿中的一些小错误，这意味着病历记录的撰写在很大程度上是自动化的。
放射学和影像学：人工智能（包括生成模型）可以分析X光片、核磁共振成像（MRI）和计算机断层扫描（CT）图像，以检测异常情况（例如肿瘤或骨折）。2018年，美国食品药品监督管理局（FDA）批准了一套人工智能系统，用于自主检测视网膜图像中的糖尿病视网膜病变（一种眼部疾病）。值得注意的是，该系统获准在特定筛查情况下无需专家审核即可做出诊断。该系统并非生成式人工智能，但这表明监管机构已允许在有限的情况下使用自主人工智能进行诊断。生成模型则可用于生成综合报告。例如，人工智能可以检查胸部X光片，并生成一份放射科医生的报告，例如“未发现急性病变。肺部清晰。心脏大小正常。”放射科医生只需确认并签字即可。在一些常规病例中，如果放射科医生信任人工智能并进行快速检查，这些报告或许无需修改即可发出。
症状自查和虚拟护士：生成式人工智能聊天机器人正被用作一线症状自查工具。患者可以输入症状并获得建议（例如，“可能是普通感冒；多休息多喝水，但如果出现X或Y症状，请就医。”）。像Babylon Health这样的应用程序利用人工智能提供建议。目前，这些建议通常被视为信息参考，而非权威的医疗建议，并且鼓励患者在出现严重问题时咨询临床医生。
药物发现（生成式化学）：生成式人工智能模型可以为药物提出新的分子结构。这更多地属于研究领域，而非临床应用。这些人工智能模型能够自主运行，提出数千种具有所需特性的候选化合物，然后由人类化学家在实验室进行审查和测试。像Insilico Medicine这样的公司已经利用人工智能在更短的时间内生成了新的候选药物。虽然这并非直接与患者互动，但它展示了人工智能如何自主地创造出人类需要花费更长时间才能找到的解决方案（分子设计）。
医疗运营：人工智能正在帮助医院优化排班、物资管理和其他物流环节。例如，生成模型可以模拟患者流动情况，并提出排班调整建议以减少等待时间。虽然这些决策并不那么显而易见，但人工智能只需极少的人工干预即可完成。

需要指出的是，截至2025年，没有任何一家医院允许人工智能在未经人工审核的情况下独立做出重大医疗决策或治疗方案。诊断和治疗方案的制定仍然牢牢掌握在人手中，人工智能仅提供辅助意见。目前，人工智能尚不足以完全自主地告知患者“您患有癌症”或开具处方，而且在没有经过广泛验证的情况下，也不应该允许其这样做。医疗专业人员将人工智能作为辅助工具或节省时间的工具，但他们会对关键的输出结果进行核实。

2030-2035年展望：人工智能将成为医生的同事（或许还能成为护士或药剂师的同事）

在未来十年，我们预计生成式人工智能将自主承担更多常规临床任务，并扩大医疗保健服务的覆盖范围：

自动化初步诊断：到2030年，人工智能将能够可靠地对许多常见疾病进行初步分析。试想一下，诊所里的人工智能系统能够通过摄像头读取患者的症状、病史，甚至解读他们的语气和面部表情，并在医生见到患者之前提供诊断建议和推荐检查项目。这样，医生就可以专注于确认和讨论诊断结果。在远程医疗中，患者可以先与人工智能进行交流，人工智能会缩小诊断范围（例如，可能是鼻窦感染，也可能是更严重的疾病），然后在需要时将患者转接给临床医生。如果人工智能被证明极其准确，监管机构可能会允许其在正式诊断某些轻微疾病——例如，人工智能可以通过耳镜图像诊断出简单的耳部感染。
个人健康监测：随着可穿戴设备（智能手表、健康传感器）的普及，人工智能将持续监测患者，并自主发出健康预警。例如，到2035年，您的可穿戴设备中的人工智能或许能够检测到异常心律，并自动安排您进行紧急线上咨询，甚至在检测到心脏病发作或中风的迹象时呼叫救护车。这已进入自主决策领域——判断某种情况是否紧急并采取行动——这正是人工智能一项极具潜力且能够挽救生命的应用。
治疗建议：基于医学文献和患者数据训练的生成式人工智能可以提出个性化的治疗方案。到2030年，对于癌症等复杂疾病，人工智能肿瘤委员会可以分析患者的基因构成和病史，并自主制定推荐的治疗方案（化疗方案、药物选择）。人类医生会审核这些方案，但随着信心的增强，他们可能会开始接受人工智能生成的方案，尤其是在常规病例中，仅在必要时进行调整。
虚拟护士与居家护理：能够进行对话并提供医疗指导的人工智能可以处理大量的后续护理和慢性病监测工作。例如，慢性病患者在家时可以向人工智能护士助手报告每日指标，助手会给出建议（例如“您的血糖有点高，建议调整一下晚饭的量”），只有当读数超出正常范围或出现问题时才会联系人工护士。这种人工智能可以在医生的远程监督下基本自主运行。
医学影像与实验室分析——全自动流程：到2035年，在某些领域，医学扫描的判读可能主要由人工智能完成。放射科医生将监督人工智能系统并处理复杂病例，但大多数正常扫描（确实正常）可由人工智能直接“判读”并确认。同样，病理切片的分析（例如，检测活检中的癌细胞）也可实现自主初步筛查，从而显著加快实验室结果的出具速度。
药物研发和临床试验：人工智能不仅可能设计药物分子，还可能生成用于试验的合成患者数据或寻找最佳试验候选药物。它或许能够自主运行虚拟试验（模拟患者的反应），从而在进行真实试验前缩小候选药物范围。这可以减少人工干预，加快药物上市速度。

人工智能医生的愿景仍然遥遥无期，且仍存在争议。即使到2035年，人们也期望人工智能能够成为助手，而非取代人性化诊疗。复杂的诊断往往需要直觉、伦理以及与患者沟通以了解其具体情况——而这些恰恰是人类医生的优势所在。即便如此，人工智能或许可以处理大约80%的日常工作：例如文书工作、简单的病例、监测等等，从而使人类临床医生能够专注于棘手的20%病例以及医患关系。

存在诸多障碍：医疗保健领域自主人工智能的监管审批非常严格（理应如此）。人工智能系统需要进行广泛的临床验证。我们可能会看到人工智能逐步被接受——例如，允许人工智能在缺乏医生的医疗服务匮乏地区自主进行诊断或治疗，以此来扩大医疗保健的覆盖范围（想象一下，到2030年，在偏远村庄建立一家“人工智能诊所”，由城市医生定期进行远程监督）。.

伦理考量至关重要。问责制（如果自主人工智能诊断出错，谁该负责？）、知情同意（患者需要了解人工智能是否参与其治疗）以及确保公平性（人工智能如何适用于所有人群，避免偏见）都是需要应对的挑战。假设这些问题都能得到解决，到2030年代中期，生成式人工智能有望融入医疗保健体系，承担许多能够解放医护人员的任务，并有可能惠及目前就医渠道有限的患者。.

总而言之，到2035年，人工智能很可能将深度融入医疗保健领域，但主要仍将作为底层技术或辅助工具发挥作用。我们将信任人工智能能够自主完成许多工作——例如解读扫描结果、监测生命体征、制定治疗方案——但关键决策仍将由人类监督作为安全保障。最终，我们将迎来一个更高效、更灵活的医疗保健系统，人工智能负责繁重的工作，而人类则提供同理心和最终的判断。

教育中的生成式人工智能

教育是生成式人工智能正在掀起波澜的另一个领域，从人工智能驱动的辅导机器人到自动评分和内容创作，无所不包。教学涉及沟通和创造力，而这正是生成式模型的优势所在。但是，人工智能真的可以在没有教师监督的情况下进行教育吗？

当前能力（2025）：受约束的导师和内容生成器

辅助工具而非独立教师使用

人工智能辅导助手：像可汗学院的“Khanmigo”（由GPT-4驱动）或各种语言学习应用程序这样的工具，都利用人工智能来模拟一对一辅导或对话伙伴。学生可以用自然语言提问并获得答案或解释。人工智能可以为作业题提供提示，用不同的方式解释概念，甚至可以扮演历史人物进行互动式历史课程。然而，这些人工智能辅导工具通常需要监督使用；教师或应用程序维护者通常会监控对话，或设定人工智能可以讨论的内容范围（以避免传播错误信息或不当内容）。
面向教师的内容创作：生成式人工智能可以帮助教师创建测验题、阅读摘要、课程计划大纲等等。例如，教师可以向人工智能发出“生成5道二次方程练习题及答案”的指令，从而节省备课时间。虽然这是自主内容生成，但教师通常仍需审核输出结果的准确性以及与课程的契合度。因此，它更像是一种省力工具，而非完全独立的系统。
评分与反馈：人工智能可以自动批改选择题（这并不新鲜），并且越来越多地能够评估简答题或作文。一些学校系统使用人工智能来批改书面回答，并向学生提供反馈（例如，语法纠正、扩展论点的建议）。虽然这本身并非生成性任务，但新型人工智能甚至可以根据学生的表现生成个性化的反馈报告，突出显示需要改进的地方。由于担心细节问题，教师通常会在这个阶段复核人工智能批改的作文。
自适应学习系统：这类平台会根据学生的学习表现调整学习材料的难度或风格。生成式人工智能（AI）通过即时创建新的题目或示例来增强这种系统，从而满足学生的特定需求。例如，如果学生在理解某个概念时遇到困难，AI可能会生成另一个围绕该概念的类比题或练习题。这种功能在一定程度上是自主的，但仍然运行在由教育者设计的系统框架内。
学生学习用途：学生自主使用 ChatGPT 等工具辅助学习——例如寻求澄清、翻译，甚至利用人工智能获取论文草稿的反馈（例如“改进我的引言段落”）。这种学习过程完全自主，无需教师指导。在这种情况下，人工智能扮演着按需辅导或校对的角色。关键在于确保学生将其用于学习，而不仅仅是获取答案（学术诚信）。

显然，到2025年，人工智能在教育领域的应用将非常强大，但通常仍需教师参与，由教师对人工智能的教学内容进行把控和优化。人们的谨慎是可以理解的：我们不希望人工智能在无人干预的情况下教授错误信息或处理敏感的学生互动。教师们将人工智能辅导视为得力助手，它们可以帮助学生进行更多练习，并快速解答常见问题，从而使教师能够专注于更深入的指导。.

2030-2035年展望：个性化人工智能辅导员和自动化教学助手

未来十年，我们预计生成式人工智能将带来更加个性化和自主的学习体验，同时教师的角色也将随之演变：

为每位学生配备AI私人导师：到2030年，包括可汗学院创始人萨尔·可汗在内的专家们设想，每位学生都能获得一位在许多方面与人类导师一样有效的AI导师（其创造者称，这位AI导师可以让人类的智力提升10倍）。这些AI导师将全天候在线，深入了解学生的学习历史，并据此调整教学方式。例如，如果一位学生是视觉型学习者，在理解某个代数概念时遇到困难，AI可以动态地生成可视化的解释或交互式模拟来帮助他/她。由于AI可以跟踪学生的学习进度，因此它可以自主决定接下来复习哪个主题或何时学习新技能——从而有效地为该学生制定个性化的学习计划
减轻教师日常工作负担：批改作业、制作练习题、编写教案——到2030年代，这些工作几乎都可以完全交给人工智能完成。人工智能可以为班级生成一周的个性化作业，批改上周的所有作业（甚至包括开放式作业）并提供反馈，还能向教师指出哪些学生在哪些方面需要额外帮助。这一切只需教师极少干预，或许只需快速浏览一下，确保人工智能的评分公平合理即可。
自主自适应学习平台：我们或许会看到某些学科完全由人工智能驱动的课程。想象一下，一门没有人类讲师的在线课程，人工智能代理会介绍学习内容、提供示例、回答问题，并根据学生的学习进度调整学习节奏。学生的学习体验可以完全个性化，实时生成。一些企业培训和成人教育可能会更早地采用这种模式。到2035年，员工只需说“我想学习高级Excel宏”，人工智能导师就会通过个性化的课程进行教学，包括生成练习题和评估答案，而无需人工授课。
课堂人工智能助手：在实体课堂或虚拟课堂中，人工智能可以监听课堂讨论，并随时协助教师（例如，通过耳麦轻声提出建议：“有几位学生似乎对这个概念感到困惑，或许可以再举一个例子”）。它还可以管理在线课堂论坛，回答学生提出的简单问题（例如“作业什么时候截止？”甚至解释讲课要点），从而避免教师被电子邮件淹没。到2035年，拥有人工智能助手，而人类教师则专注于更高层次的指导和激励，这或许将成为一种标准做法。
全球教育普及：自主人工智能导师可以帮助师资短缺地区的学生接受教育。配备人工智能导师的平板电脑可以作为基础读写和数学课程的主要授课工具，帮助那些受教育程度有限的学生。到2035年，这或许将成为最具影响力的应用之一——人工智能将弥补人类教师缺席地区的教育缺口。然而，确保人工智能教育在不同环境下的质量和文化适应性至关重要。

人工智能会完全取代教师吗？不太可能。教学不仅仅是传授知识，还包括指导、启发和情感支持。这些人类特有的要素是人工智能难以复制的。但人工智能可以成为第二位教师，甚至可以作为知识传递的第一位教师，从而使人类教师能够专注于人类最擅长的领域：共情、激励和培养批判性思维。

我们需要应对一些问题：确保人工智能提供准确的信息（避免出现虚假事实的教育幻觉），避免教育内容中的偏见，维护学生数据隐私，以及保持学生的参与度（人工智能不仅要正确，更要具有激励作用）。我们很可能会看到人工智能教育系统像教科书一样需要经过认证或认可，以确保它们符合相关标准。.

另一个挑战是过度依赖：如果人工智能导师过于轻易地给出答案，学生可能无法培养坚持不懈和解决问题的能力。为了缓解这个问题，未来的人工智能导师或许可以被设计成有时让学生经历一些挣扎（就像人类导师那样），或者鼓励他们在提示的帮助下自行解决问题，而不是直接给出答案。.

到2035年，课堂可能会发生翻天覆地的变化：每个学生都配备一台人工智能设备，按照自己的节奏学习，而教师则负责组织小组活动并提供人性化的指导。教育将变得更加高效和个性化。其愿景是，每个学生都能在需要时获得所需的帮助——真正实现大规模的“私人导师”体验。风险在于可能会失去一些人性化的元素，或者人工智能被滥用（例如学生利用人工智能作弊）。但总的来说，如果管理得当，生成式人工智能有望普及和提升学习体验，成为学生学习旅程中随时待命、知识渊博的伙伴。.

物流和供应链中的生成式人工智能

物流——货物运输和管理供应链的艺术与科学——似乎并非“生成式”人工智能的传统应用领域，但创造性的问题解决和规划在该领域至关重要。生成式人工智能可以通过模拟场景、优化方案，甚至控制机器人系统来提供帮助。物流的目标是提高效率和降低成本，这与人工智能在数据分析和解决方案提出方面的优势完美契合。那么，人工智能在运行供应链和物流运营方面究竟能达到怎样的自主程度呢？

当前能力（2025 年）：通过人工监督实现优化和简化

如今，人工智能（包括一些生成式方法）在物流领域主要用作决策支持工具：

路线优化：像 UPS 和 FedEx 这样的公司已经开始使用人工智能算法来优化配送路线，确保司机选择最高效的路径。传统上，这些算法是运筹学算法，但现在生成式算法可以帮助探索各种条件下（例如交通状况、天气状况）的替代路线策略。虽然人工智能会建议路线，但调度员或管理人员会设置参数（例如优先级），并在必要时进行调整。
装载和空间规划：对于卡车或集装箱的装载，人工智能可以生成最佳装载方案（确定每个箱子的放置位置）。生成式人工智能可以生成多种装载配置，以最大限度地利用空间，本质上是“创造”解决方案供人们选择。一项研究强调了这一点，该研究指出，在美国，卡车经常有30%的空载运行，而更好的规划——借助人工智能——可以减少这种浪费（《物流领域生成式人工智能的顶级应用案例》）。这些人工智能生成的装载方案旨在降低燃料成本和排放，在一些仓库中，这些方案只需极少的人工调整即可执行。
需求预测和库存管理：人工智能模型可以预测产品需求并生成补货计划。生成式模型可以模拟不同的需求场景（例如，人工智能“想象”即将到来的节假日会导致需求激增），并据此制定库存计划。这有助于供应链管理人员做好准备。目前，人工智能提供预测和建议，但最终的生产水平或订单通常由人工决定。
风险评估：全球供应链面临诸多中断风险（自然灾害、港口延误、政治问题等）。人工智能系统如今会梳理新闻和数据，识别潜在风险。例如，一家物流公司利用生成式人工智能扫描互联网，标记出高风险运输走廊（例如，可能因飓风或动乱等原因而出现问题的地区）（《物流领域生成式人工智能的顶级应用案例》）。有了这些信息，规划人员可以自主地绕开风险区域重新规划运输路线。在某些情况下，人工智能甚至会自动推荐路线变更或运输方式变更，最终由人工审核批准。
仓库自动化：许多仓库已实现半自动化，利用机器人进行拣货和包装。生成式人工智能可以动态地将任务分配给机器人和人工，以实现最佳流程。例如，人工智能可以根据订单情况，每天早上生成机器人拣货员的作业队列。这通常完全自主执行，管理人员只需监控关键绩效指标 (KPI)——如果订单量意外激增，人工智能会自动调整操作。
车队管理：人工智能通过分析车辆运行模式并生成最佳维护计划，帮助安排车辆维护，从而最大限度地减少停机时间。它还可以对货物运输进行分组，以减少运输次数。只要满足服务要求，这些决策都可以由人工智能软件自动做出。

总体而言，到2025年，人类设定目标（例如，“在确保两天内送达的前提下，尽可能降低成本”），而人工智能则负责生成解决方案或制定计划来实现这些目标。这些系统可以每天自动运行，无需人工干预，直到出现异常情况。许多物流环节都涉及重复性决策（例如，这批货物何时发货？从哪个仓库发货？），而人工智能可以学习如何持续地做出这些决策。企业正逐渐信任人工智能能够处理这些微决策，并且仅在出现异常情况时才向管理人员发出警报。.

2030-2035年展望：自动驾驶供应链

未来十年，我们可以预见人工智能将推动物流领域自主的协调

自动驾驶车辆和无人机：自动驾驶卡车和送货无人机虽然属于人工智能/机器人领域的广泛范畴，但却直接影响着物流。到2030年，如果监管和技术方面的挑战能够得到克服，我们或许就能看到人工智能驾驶卡车在高速公路上日常行驶，或者无人机在城市中完成最后一公里配送。这些人工智能系统无需人类驾驶员即可做出实时决策（例如路线变更、避障）。其关键在于这些车辆人工智能如何从海量数据和模拟场景中学习，有效地在无数场景中进行“训练”。一支完全自动驾驶的车队可以全天候运行，人类只需进行远程监控。这将大大减少物流运营中的人为因素（驾驶员），从而显著提高自动化程度。
自愈式供应链：生成式人工智能很可能被用于持续模拟供应链场景并制定应急预案。到2035年，人工智能或许能够自动检测供应商工厂何时停产（通过新闻或数据推送），并立即将货源转向已在模拟中筛选过的替代供应商。这意味着供应链能够“自我修复”，人工智能将主动介入。届时，人类管理者将被告知人工智能采取的行动，而不是由他们来启动应急方案。
端到端库存优化：人工智能可以自主管理整个仓库和门店网络中的库存。它将决定何时何地移动库存（或许会使用机器人或自动驾驶车辆），确保每个地点都保持适量的库存。人工智能基本上运行着供应链的控制塔：监控所有物流流动并实时进行调整。到2035年，“自动驾驶”供应链的概念可能意味着系统每天能够自行制定最佳配送方案、订购产品、安排工厂生产以及安排运输。人类将负责监督整体战略并处理超出人工智能当前理解范围的异常情况。
物流领域的生成式设计：我们或许会看到人工智能设计全新的供应链网络。假设一家公司拓展到新的地区；人工智能可以根据现有数据，为该地区生成最佳的仓库位置、运输线路和库存策略——这正是咨询顾问和分析师目前所做的工作。到2030年，企业或许会依赖人工智能的建议来制定供应链设计方案，相信它能够更快地权衡各种因素，并找到人类可能忽略的创新解决方案（例如一些非显而易见的配送中心）。
与制造业（工业4.0）的融合：物流并非孤立存在，而是与生产紧密相连。未来的工厂或许会利用生成式人工智能来安排生产计划，按需订购原材料，并指示物流网络立即发货。这种集成式人工智能意味着整体上更少的人工规划——从制造到交付的无缝链条将由算法驱动，从而优化成本、速度和可持续性。到2025年，高效的供应链已经由数据驱动；到2035年，它们可能将主要由人工智能驱动。
物流领域的动态客户服务：基于客户服务人工智能，供应链人工智能可以直接与客户互动。例如，如果一位大客户想在最后一刻更改批量订单，人工智能代理无需等待人工经理即可协商可行的替代方案（例如，“由于资源限制，我们现在可以交付一半，下周交付另一半”。这需要生成式人工智能理解双方的需求（客户需求与运营能力），并做出既能保证运营顺畅又能满足客户需求的决策。

预期收益是更高效、更具韧性和响应速度的物流系统。企业预计可节省巨额成本——麦肯锡估计，人工智能驱动的供应链优化可以显著降低成本并提高服务水平，从而为各行业创造数万亿美元的价值（《 2023 年人工智能现状：生成式人工智能的突破之年》| 麦肯锡）。

然而，将更多控制权交给人工智能也存在风险，例如，如果人工智能的逻辑存在缺陷，可能会引发连锁反应（例如，臭名昭著的人工智能供应链因建模错误而导致公司库存告罄的案例）。诸如“重大决策需人工参与”或至少允许人工快速干预的仪表盘之类的保障措施，可能会持续到2035年。随着时间的推移，当人工智能的决策得到验证后，人们会逐渐习惯于放手让人工智能发挥作用。.

有趣的是，人工智能在追求效率最大化的过程中，有时可能会做出与人类偏好或传统做法相冲突的选择。例如，纯粹的效率优化可能会导致库存极低，这虽然高效，但也可能让人感到风险。到2030年，供应链专业人士或许需要调整他们的直觉，因为人工智能在处理海量数据后，可能会证明其看似不寻常的策略实际上效果更佳。.

最后，我们必须考虑到物理限制（基础设施、物理流程速度）制约着物流变革的速度，因此，这场变革的重点在于更智能的规划和资产利用，而非构建一个全新的物理现实。但即便在这些限制之内，生成式人工智能的创新解决方案和持续优化也能在最大限度减少人工规划的情况下，显著改善全球货物运输方式。

总而言之，到 2035 年，物流的运作方式可能类似于一台运转良好的自动化机器：货物高效流动，路线实时调整以应对中断，仓库由机器人进行自我管理，整个系统不断地从数据中学习和改进——所有这一切都由作为运营大脑的生成式人工智能进行协调。.

金融和商业领域的生成式人工智能

金融行业高度依赖信息——报告、分析、客户沟通——这使其成为生成式人工智能的沃土。从银行业到投资管理再到保险业，各机构都在探索利用人工智能实现自动化和洞察生成。问题是，鉴于准确性和信任度在该领域的重要性，人工智能可以在无需人工监督的情况下可靠地处理哪些金融任务？

当前能力（2025 年）：自动化报告和决策支持

截至目前，生成式人工智能已在金融领域以多种方式发挥作用，通常是在人类的监督下进行的：

报告生成：银行和金融机构会生成大量报告，例如盈利摘要、市场评论、投资组合分析等等。人工智能已被用于撰写这些报告。例如，彭博社开发了BloombergGPT ，这是一个基于金融数据训练的大型语言模型，用于辅助终端用户完成新闻分类和问答等任务（生成式人工智能即将应用于金融领域）。虽然其主要用途是帮助人们查找信息，但也展现了人工智能日益重要的作用。Automated Insights（美联社合作的公司）也生成金融文章。许多投资通讯都使用人工智能来总结每日市场动态或经济指标。通常情况下，这些内容在发送给客户之前会经过人工审核，但这只是快速编辑，而不是从零开始撰写。
客户沟通：在零售银行业务中，人工智能聊天机器人可以处理客户关于账户余额、交易或产品信息的咨询（逐渐融入客户服务领域）。此外，人工智能还可以生成个性化的理财建议信或提醒信息。例如，人工智能可以识别出客户可以节省费用，并自动撰写一封建议其更换账户类型的邮件，该邮件几乎无需人工干预即可发送出去。这种大规模的个性化沟通是人工智能在金融领域的一项现有应用。
欺诈检测与警报：生成式人工智能可以帮助创建针对欺诈系统检测到的异常情况的叙述或解释。例如，如果系统标记出可疑活动，人工智能可以生成一条给客户的解释信息（“我们注意到有来自新设备的登录……”）或一份给分析师的报告。检测过程是自动化的（使用人工智能/机器学习异常检测），沟通也日益自动化，但最终操作（例如冻结账户）通常仍需人工审核。
财务咨询（有限）：一些智能投顾（自动化投资平台）使用算法（不一定是生成式人工智能）来管理投资组合，无需人工顾问参与。生成式人工智能正在逐步融入其中，例如，它可以生成对特定交易原因的评论，或为客户量身定制投资组合表现的总结。然而，纯粹的财务建议（例如复杂的财务规划）仍然主要依赖人工或基于规则的算法；缺乏监督的自由生成式建议存在风险，一旦出错，可能需要承担法律责任。
风险评估与承保：保险公司正在测试人工智能技术，以自动生成风险评估报告，甚至起草保单文件。例如，给定有关房产的数据，人工智能可以生成一份保险单草稿或一份描述风险因素的承保人报告。目前，这些输出结果仍需人工审核，因为合同中的任何错误都可能造成高昂的损失。
数据分析与洞察：人工智能可以梳理财务报表或新闻，并生成摘要。分析师使用的工具可以立即将一份长达100页的年度报告提炼成要点，或从财报电话会议记录中提取主要信息。这些摘要节省时间，可以直接用于决策或分享，但谨慎的分析师会仔细核对关键细节。

本质上，目前金融领域的AI扮演着不知疲倦的分析师/撰稿人的角色，生成内容，再由人类进行润色。完全自主的应用主要集中在一些定义明确的领域，例如数据驱动的新闻（无需主观判断）或客户服务响应。由于涉及金额巨大且受到监管严格审查，直接委托AI进行资金决策（例如资金调动、执行超出预设算法的交易）的情况非常罕见。

2030-2035年展望：人工智能分析师和自主金融运营

展望未来，到 2035 年，生成式人工智能可能会深度融入金融运营，并有可能自主处理许多任务：

人工智能金融分析师：我们或许会看到人工智能系统能够分析公司和市场，并生成与人类股票研究分析师水平相当的投资建议或报告。到2030年，人工智能或许能够阅读公司的所有财务文件，与行业数据进行比较，并独立生成投资建议报告（包含买入/卖出指令及理由）。一些对冲基金已经开始使用人工智能生成交易信号；到2030年代，人工智能研究报告可能会变得司空见惯。人类投资组合经理或许会开始将人工智能生成的分析作为众多参考因素之一。人工智能甚至有可能自主管理投资组合：根据预先设定的策略持续监控并重新平衡投资。事实上，算法交易已经高度自动化——生成式人工智能可以通过自行生成和测试新的交易模型，使策略更具适应性。
自动化财务规划：面向消费者的AI顾问可以处理个人日常财务规划。到2030年，你或许可以告诉AI你的目标（例如买房、子女教育储蓄），它就能为你生成一份完整的个性化财务计划（包括预算、投资配置和保险建议）。最初，这份计划可能需要由人工财务规划师审核，但随着信任度的提高，这类建议或许可以直接提供给消费者，并附上相应的免责声明。关键在于确保AI的建议符合相关法规，并且符合客户的最佳利益。如果这个问题得到解决，AI将使基础财务咨询变得更加便捷且成本低廉。
后台自动化：生成式人工智能或许能够自主处理许多后台文档，例如贷款申请、合规报告和审计摘要。例如，人工智能可以接收所有交易数据，并生成一份审计报告，标记出所有问题。到2035年，审计人员或许可以将更多时间用于审查人工智能标记的异常情况，而不是亲自逐一审查所有内容。同样，在合规方面，人工智能可以自动生成可疑活动报告（SAR），无需分析师从头撰写。这些常规文档的自主生成，以及仅在出现异常情况时才进行人工审核，可能会成为标准流程。
保险理赔与核保：人工智能可以处理保险理赔（包括照片证据等），确定承保范围，并自动生成赔付决定书。我们或许很快就能实现这样的目标：一些简单的理赔（例如数据清晰的交通事故）可以在提交后的几分钟内完全由人工智能处理。新保单的核保流程也可能类似：人工智能评估风险并生成保单条款。到2035年，或许只有那些复杂或模棱两可的案例才会交由人工核保员处理。
欺诈与安全：人工智能在金融领域检测和应对欺诈或网络威胁方面可能发挥更加关键的作用。自主人工智能代理可以实时监控交易，并在满足特定条件时立即采取行动（例如冻结账户、冻结交易），然后给出行动理由。速度至关重要，因此需要尽可能减少人为干预。其关键在于如何以清晰的方式将这些行动传达给客户或监管机构。
高管支持：想象一下，如果有一个人工智能“幕僚长”，可以随时为高管生成业务报告，那会是怎样一番景象？例如，询问“我们欧洲分部本季度的业绩如何？与去年同期相比，主要驱动因素是什么？”人工智能就能根据数据生成一份简洁明了、图表清晰的报告，所有信息都准确无误。这种动态、自主的报告和分析方式，未来或许会像对话一样轻松便捷。到2030年，向人工智能查询商业智能并信任其给出的正确答案，将在很大程度上取代静态报告，甚至可能取代部分分析师岗位。

一个有趣的预测是：到2030年代，大部分金融内容（新闻、报告等）可能都将由人工智能生成。目前，像道琼斯和路透社这样的媒体已经开始使用自动化技术处理部分新闻。如果这种趋势持续下去，考虑到金融数据的爆炸式增长，人工智能或许将负责过滤和传播大部分金融信息。

然而，信任和验证至关重要。金融行业受到严格监管，任何自主运行的人工智能都需要符合严格的标准：

确保不会出现幻觉（你不能让人工智能分析师发明一个不存在的财务指标——这可能会误导市场）。.
避免偏见或非法行为（例如由于训练数据存在偏见而无意中在贷款决策中造成歧视性歧视）。.
可审计性：监管机构很可能要求人工智能决策具有可解释性。如果人工智能拒绝贷款或做出交易决策，则必须有可供审查的理由。生成模型可能有点像黑箱，因此预计会开发出可解释的人工智能技术，使其决策透明化。

未来十年，人工智能与金融专业人士的密切合作很可能成为常态，随着信心的增长，人工智能的自主性也将逐步提升。早期成果将体现在低风险的自动化领域（例如报告生成）。核心判断，例如信贷决策或投资选择，难度更大，但即便如此，随着人工智能业绩的积累，企业也可能赋予其更大的自主权。例如，人工智能基金或许会配备一名人工监管员，仅在业绩出现偏差或人工智能发出不确定信号时才进行干预。.

麦肯锡估计，人工智能（尤其是生成式人工智能）每年可为银行业创造约2000亿至3400亿美元的价值，并在保险和资本市场产生类似的巨大影响（《 2023年人工智能现状：生成式人工智能的突破之年》| 麦肯锡）（《生成式人工智能的未来是什么？》| 麦肯锡）。这主要得益于效率的提升和更优的决策结果。为了实现这一价值，许多日常的财务分析和沟通工作很可能将交由人工智能系统完成。

总而言之，到2035年，生成式人工智能可能就像一支由初级分析师、顾问和职员组成的队伍，在金融领域广泛工作，自主完成大部分繁琐的工作和一些复杂的分析。人类仍将负责制定目标、处理高层战略、维护客户关系和进行监督。金融界出于谨慎，将逐步扩大人工智能的自主性——但发展方向很明确：越来越多的信息处理乃至决策建议都将来自人工智能。理想情况下，这将带来更快捷的服务（即时贷款、全天候咨询）、更低的成本，以及更高的客观性（基于数据模式的决策）。但维护信任至关重要；金融领域一次备受瞩目的人工智能失误就可能造成巨大的损失（试想一下人工智能引发的闪崩，或者成千上万人被错误地剥夺了福利）。因此，即使后台流程高度自动化，尤其是在面向消费者的操作方面，各种保障措施和人工审核机制仍可能继续存在。.

挑战与伦理考量

在所有这些领域，随着生成式人工智能承担更多自主职责，一系列共同的挑战和伦理问题也随之出现。确保人工智能成为可靠且有益的自主代理不仅是一项技术任务，更是一项社会任务。本文概述了关键问题以及它们正在（或需要）如何得到解决：

可靠性和准确性

幻觉问题：生成式人工智能模型可能会生成看似可靠但实际上错误甚至完全捏造的输出。当没有人参与决策以纠正错误时，这种情况尤其危险。聊天机器人可能会给客户提供错误的指示，或者人工智能生成的报告可能包含捏造的统计数据。截至2025年，不准确性已被各组织认定为生成式人工智能面临的最大风险（《 2023年人工智能现状：生成式人工智能的突破之年》| 麦肯锡）（《人工智能现状：全球调查》| 麦肯锡）。展望未来，诸如数据库事实核查、模型架构改进以及带有反馈的强化学习等技术正被应用于最大限度地减少幻觉的产生。自主人工智能系统可能需要进行严格的测试，对于关键任务（例如，如果代码生成错误可能会引入漏洞/安全缺陷），或许还需要进行形式化验证。

一致性：人工智能系统需要长期稳定地运行，并能应对各种场景。例如，人工智能系统可能在标准问题上表现出色，但在处理极端情况时却会遇到困难。为了确保性能的稳定性，需要涵盖各种情况的大量训练数据以及持续的监控。许多组织计划采用混合方法——人工智能系统可以运行，但会随机抽取样本进行人工审核——以评估持续的准确率。

安全机制：当人工智能实现自主运行时，使其能够识别自身的不确定性至关重要。系统应该被设计成“知道自己何时不知道”。例如，如果人工智能医生对某个诊断没有把握，它应该发出警报，等待人工审核，而不是随意猜测。将不确定性评估融入人工智能的输出（并设置自动交接人工审核的阈值）是目前的研究热点。

偏见与公平

生成式人工智能从历史数据中学习，而历史数据可能包含偏见（种族、性别等）。自主人工智能可能会延续甚至放大这些偏见：

在招聘或招生过程中，如果人工智能决策者的训练数据存在偏见，则可能造成不公平的歧视。.
在客户服务中，除非经过仔细检查，否则人工智能可能会根据方言或其他因素对用户做出不同的反应。.
在创意领域，如果训练集不平衡，人工智能可能会低估某些文化或风格。.

解决这个问题需要精心整理数据集、进行偏差测试，或许还需要调整算法以确保公平性。透明度至关重要：企业需要公开人工智能的决策标准，尤其是在自主人工智能会影响到个人机会或权利（例如获得贷款或工作）的情况下。监管机构已经开始关注这个问题；例如，欧盟的《人工智能法案》（截至2020年代中期正在制定中）很可能要求对高风险人工智能系统进行偏差评估。.

问责制和法律责任

当人工智能系统自主运行造成损害或犯错时，谁该负责？法律框架正在逐步完善：

部署人工智能的公司很可能要承担责任，类似于对员工行为负责。例如，如果人工智能给出错误的财务建议导致客户蒙受损失，公司可能需要赔偿客户。.
关于人工智能是否具有“人格”以及高级人工智能是否可能承担部分责任，目前存在争议，但这更多是理论探讨。实际上，责任最终会追溯到开发者或运营者。.
人工智能故障可能会催生新的保险产品。例如，如果一辆自动驾驶卡车发生事故，制造商的保险可能会承担赔偿责任，类似于产品责任险。.
人工智能决策的记录和日志记录对于事后分析至关重要。如果出现问题，我们需要审核人工智能的决策路径，从中吸取教训并明确责任。监管机构可能正是出于这个原因，强制要求对自主人工智能行为进行日志记录。.

透明度和可解释性

理想情况下，自主人工智能应该能够用人类可理解的语言解释其推理过程，尤其是在影响深远的领域（金融、医疗保健、司法系统）。可解释人工智能领域致力于揭开人工智能的“黑箱”：

如果人工智能拒绝贷款申请，相关法规（例如美国的《平等信贷机会法》）可能要求向申请人提供拒绝理由。因此，人工智能必须输出一些因素（例如“负债收入比过高”）作为解释。.
与人工智能互动的用户（例如使用人工智能辅导的学生或使用人工智能健康应用程序的患者）有权了解人工智能如何得出建议。目前正在努力提高人工智能推理过程的可追溯性，方法包括简化模型或建立并行的解释模型。.
透明度也意味着用户应该清楚自己是在与人工智能还是真人互动。伦理准则（以及一些法律）倾向于要求披露客户是否在与机器人对话。这可以防止欺骗，并确保用户知情同意。一些公司现在会明确标注人工智能生成的内容（例如“本文由人工智能生成”），以维护用户信任。

隐私和数据保护

生成式人工智能通常需要数据（包括可能敏感的个人数据）才能运行或学习。自主运行必须尊重隐私：

人工智能客服人员将访问账户信息以帮助客户；这些数据必须受到保护，并且只能用于完成该任务。.
如果人工智能导师可以访问学生个人资料，那么根据 FERPA（美国）等法律，就需要考虑如何确保教育数据的隐私。.
大型模型可能会无意中记住训练数据中的特定信息（例如，复述训练过程中看到的某个人的地址）。因此，在训练过程中采用差分隐私和数据匿名化等技术对于防止生成的输出中个人信息泄露至关重要。.
诸如GDPR之类的法规赋予个人对其自身利益相关的自动化决策的权利。如果决策对其造成重大影响，人们可以要求人工审核或要求不完全由自动化程序做出决策。到2030年，随着人工智能的日益普及，这些法规可能会不断发展，或许会引入解释权或选择退出人工智能处理的权利。.

安全与滥用

自主人工智能系统可能成为黑客攻击的目标，或者被利用来进行恶意活动：

人工智能内容生成器可能被滥用，大规模制造虚假信息（例如深度伪造视频、虚假新闻文章），这构成社会风险。发布功能强大的生成模型的伦理问题一直备受争议（例如，OpenAI 最初对 GPT-4 的图像处理能力持谨慎态度）。解决方案包括为人工智能生成的内容添加水印以帮助检测虚假信息，以及利用人工智能对抗人工智能（例如，开发用于检测深度伪造内容的算法）。.
如果人工智能控制着物理过程（例如无人机、汽车、工业控制系统），那么保护其免受网络攻击至关重要。被黑客入侵的自主系统可能会造成现实世界的危害。这意味着需要强大的加密技术、故障保护机制，以及在系统出现故障时能够进行人工干预或关闭系统。.
此外，人工智能还可能超出预设范围（“失控人工智能”情景）。虽然目前的人工智能不具备自主性或意图，但如果未来的自主系统更具自主性，则需要严格的约束和监控，以确保它们不会因为目标设定错误而执行未经授权的交易或违反法律。.

伦理使用和人类影响

最后，更广泛的伦理考量：

工作岗位流失：如果人工智能无需人工干预即可完成任务，那么这些工作将何去何从？历史上，技术在取代某些工作的同时，也创造了新的工作。对于那些技能与即将被自动化的工作相关的劳动者来说，这种转变可能会很痛苦。社会需要通过技能再培训、教育以及可能重新思考经济支持方式来应对这一问题（有人认为，如果大量工作被自动化，人工智能可能需要像全民基本收入这样的措施）。目前，调查显示人们对此看法不一——一项研究发现，三分之一的劳动者担心人工智能会取代他们的工作，而另一些人则认为人工智能可以减轻繁重的体力劳动。
人类技能的流失：如果人工智能导师授课、人工智能自动驾驶、人工智能编写代码，人们会不会失去这些技能？过度依赖人工智能在最坏的情况下可能会导致专业技能的流失；教育和培训项目需要对此进行调整，确保人们即使借助人工智能也能学习到基本技能。
伦理决策：人工智能缺乏人类的道德判断力。在医疗保健或法律领域，纯粹基于数据的决策可能与个案中的同情心或公正相冲突。我们或许需要将伦理框架编码到人工智能中（例如，使人工智能的决策与人类价值观相一致，这是人工智能伦理研究的一个领域）。至少，在涉及伦理问题的决策中，让人类参与其中是明智之举。
包容性：确保人工智能的益处惠及大众是一项合乎伦理的目标。如果只有大公司才能负担得起先进的人工智能技术，那么小型企业或较贫困的地区可能会被落下。开源项目和价格合理的人工智能解决方案有助于实现人工智能的普及。此外，人工智能工具的界面设计应确保任何人都能使用（例如支持不同语言、为残障人士提供无障碍功能等），否则我们将造成新的数字鸿沟，即“谁拥有人工智能助手，谁没有”。

当前风险缓解措施：积极的一面是，随着企业推广生成式人工智能，人们对这些问题的认识和行动也在不断增强。到2023年底，近一半使用人工智能的公司都在积极努力降低诸如不准确等风险（《2023年人工智能现状：生成式人工智能的突破之年》| 麦肯锡）（《人工智能现状：全球调查》| 麦肯锡），而且这一数字还在上升。科技公司已经设立了人工智能伦理委员会；各国政府也在制定相关法规。关键在于从一开始就将伦理融入人工智能的开发过程中（“设计伦理”），而不是事后被动应对。

综上所述，赋予人工智能更多自主权是一把双刃剑。它能带来效率和创新，但也要求高度的责任感。未来几年，我们可能会看到多种解决方案的融合：技术解决方案（用于改进人工智能的行为）、流程解决方案（政策和监管框架），以及新的标准或认证（人工智能系统或许会像如今的发动机或电子产品一样接受审计和认证）。能否成功应对这些挑战，将决定我们能否顺利地将自主人工智能融入社会，从而提升人类福祉和信任。.

结论

生成式人工智能已从一项新颖的实验迅速发展成为一项变革性的通用技术，渗透到我们生活的方方面面。本白皮书探讨了到2025年，人工智能系统将如何能够撰写文章、设计图形、编写软件代码、与客户聊天、总结医疗记录、辅导学生、优化供应链以及撰写财务报告。重要的是，在许多此类任务中，人工智能几乎无需人工干预，尤其是在那些定义明确、可重复性高的工作中。企业和个人开始信任人工智能能够自主完成这些任务，从而在速度和规模上获益匪浅。

展望2035年，我们正站在一个新时代的门槛上，人工智能将成为更加无处不在的协作伙伴——它常常是幕后默默无闻的数字劳动力，负责处理日常琐事，使人类能够专注于更重要的事情。我们预见，生成式人工智能将能够可靠地驾驶道路上的汽车和卡车，在夜间管理仓库库存，作为知识渊博的私人助理回答我们的问题，为世界各地的学生提供一对一的指导，甚至在医学领域帮助发现新的疗法——所有这些都只需极少的直接监督。随着人工智能从被动地执行指令转向主动地生成解决方案，工具和代理之间的界限将变得模糊不清。

然而，通往自主人工智能未来的道路必须谨慎前行。正如我们所概述的，每个领域都有其自身的局限性和责任：

今日现实检验：人工智能并非完美无缺。它在模式识别和内容生成方面表现出色，但缺乏人类意义上的真正理解力和常识。因此，目前人工监督仍然是安全保障。明确人工智能何时可以独立运行（以及何时不宜独立运行）至关重要。如今许多成功案例都源于人机协作模式，这种混合模式在完全自主运行尚不适宜的领域仍将发挥重要作用。
明日展望：随着模型架构、训练技术和监管机制的进步，人工智能的能力将不断扩展。未来十年的研发有望解决许多当前的痛点（例如减少幻觉、提高可解释性、使人工智能与人类价值观相契合）。如果能够实现，到2035年，人工智能系统将足够强大，可以承担更大的自主权。本文中的预测——从人工智能教师到高度自主运营的企业——很可能成为现实，甚至会被我们今天难以想象的创新所超越。
人类角色与适应：我们预见的是，人工智能不会彻底取代人类，而是会改变人类的角色。各行各业的专业人士可能需要熟练掌握与人工智能协同工作的方法——引导人工智能、验证人工智能的运行，并专注于那些需要人类特有优势的工作环节，例如同理心、战略思维和复杂问题解决能力。教育和劳动力培训应进行调整，强调这些人类特有的技能，并提升所有人的人工智能素养。政策制定者和企业领导者应为劳动力市场的转型做好准备，并确保为受自动化影响的人们提供支持体系。
伦理与治理：或许最为关键的是，必须建立一套符合伦理的人工智能使用和治理框架来支撑这项技术的发展。信任是技术普及的基石——人们只有在确信人工智能安全可靠的情况下，才会允许它驾驶汽车或辅助手术。建立这种信任需要严格的测试、透明度、利益相关者的参与（例如，让医生参与医疗人工智能的设计，让教师参与人工智能教育工具的开发）以及适当的监管。为了应对诸如深度伪造或人工智能在战争中的应用等挑战，国际合作可能必不可少，以确保负责任使用的全球规范得以确立。

总之，生成式人工智能是推动进步的强大引擎。如果运用得当，它可以减轻人类的繁重劳动，激发创造力，提供个性化服务，并弥补人才缺口（在专家稀缺的领域提供专业知识）。关键在于如何部署它，使其能够增强而非削弱人类的潜能。短期来看，这意味着要让人类参与其中，引导人工智能的运行。长期来看，这意味着要将人文价值观融入人工智能系统的核心，使其即使独立运行，也能以我们共同的利益为出发点。

领域	今日可靠自主（2025）	预计到2035年实现可靠的自主驾驶
写作与内容	- 常规新闻（体育、财报等）自动生成。- 产品评论由人工智能汇总。- 文章或邮件草稿供人工编辑。（菲拉娜·帕特森 – ONA 社区简介）（亚马逊利用人工智能改善客户评论体验）	- 大部分新闻和营销内容由人工智能自动撰写，确保事实准确性。- 人工智能只需极少的人工干预即可生成完整的文章和新闻稿。- 可按需生成高度个性化的内容。.
视觉艺术与设计	- AI根据提示生成图像（由人工选择最佳图像）。- 自主创建概念艺术和设计变体。.	- 人工智能生成完整的视频/电影场景和复杂的图形。- 生成符合规范的产品/建筑设计。- 按需创建个性化媒体（图像、视频）。.
软件编码	- AI 可自动补全代码并编写简单函数（经开发人员审核）。- 自动生成测试用例并提供错误建议。（ Copilot 编码：2023 年数据显示代码质量面临下行压力（包括 2024 年预测）- GitClear ）（ GitHub Copilot 在 AI 代码助手研究报告中名列前茅 -- Visual Studio Magazine ）	- AI能够可靠地实现规范中的所有功能。- 可针对已知模式进行自主调试和代码维护。- 可创建低代码应用程序，只需少量人工干预。.
客户服务	- 聊天机器人回答常见问题，解决简单问题（复杂案例转交给人工处理）。- 在某些渠道，人工智能处理了约 70% 的日常咨询。（ 2025 年人工智能客户服务统计数据 59 ）（到 2030 年，客户互动中 69% 的决策将由人工智能完成…… ）	- AI 处理大部分客户交互的端到端流程，包括复杂的查询。- AI 实时决策，用于服务优惠（退款、升级）。- 人工客服仅处理升级问题或特殊情况。.
卫生保健	- 人工智能撰写医疗记录；提出诊断建议，由医生进行核实。- 人工智能在监督下解读部分扫描结果（放射学）；对简单病例进行分诊。（到2035年，人工智能医疗影像产品数量或将增长五倍）	- 人工智能能够可靠地诊断常见疾病并解读大多数医学影像。- 人工智能监测患者并启动护理（例如，用药提醒、紧急警报）。- 虚拟人工智能“护士”负责日常随访；医生则专注于复杂的治疗。.
教育	- AI辅导员回答学生问题，生成练习题（教师监控）。- AI辅助评分（教师审核）。（[面向K-12教育的生成式AI]	Applify 的研究报告]( https://www.applify.co/research-report/gen-ai-for-k12#:~:text=AI%20tutors%3A%20Virtual%20AI,individual%20learning%20styles%20and%20paces )
后勤	- 人工智能优化配送路线和包装（目标由人工设定）。- 人工智能识别供应链风险并提出缓解措施。（物流领域顶级生成式人工智能应用案例）	- 主要依靠自动驾驶车辆（卡车、无人机）进行配送，并由人工智能控制器进行监督。- 人工智能自主地绕开中断路段重新规划货运路线，并调整库存。- 由人工智能管理端到端的供应链协调（订购、配送）。.
金融	- 人工智能生成财务报告/新闻摘要（经人工审核）。- 智能投顾管理简单的投资组合；人工智能聊天处理客户咨询。（生成式人工智能即将应用于金融领域）	- 人工智能分析师能够高精度地生成投资建议和风险报告。- 在设定的限额内进行自主交易和投资组合再平衡。- 人工智能自动审批标准贷款/索赔；例外情况由人工处理。.

参考：

帕特森，菲拉娜。 《自动化盈利报告激增》 。美联社（2015）——描述了美联社如何自动生成数千份盈利报告，而无需人工撰写（《自动化盈利报告激增》| 美联社）。
麦肯锡公司。 《2024 年初人工智能现状：生成式人工智能应用激增并开始创造价值》（2024 年）——报告称，65% 的组织定期使用生成式人工智能，几乎是 2023 年的两倍（《2024 年初人工智能现状》| 麦肯锡），并讨论了风险缓解措施（《人工智能现状：全球调查》| 麦肯锡）。
Gartner。 《超越 ChatGPT：面向企业的生成式人工智能的未来》 （2023 年）——预测到 2030 年，一部热门电影的 90% 可能由人工智能生成（面向行业和企业的生成式人工智能用例），并重点介绍了药物设计等生成式人工智能用例（面向行业和企业的生成式人工智能用例）。
Twipe.记者在新闻编辑室中使用 AI 工具的 12 种方式。(2024) – 例如，新闻机构的“Klara”AI 撰写了 11% 的文章，所有 AI 内容均由人工编辑审核（记者在新闻编辑室中使用 AI 工具的 12 种方式 - Twipe ）。
亚马逊新闻。亚马逊利用人工智能改善客户评论体验。(2023) – 宣布在产品页面上提供人工智能生成的评论摘要，以帮助购物者（亚马逊利用人工智能改善客户评论体验）。
Zendesk。2025年 59 项人工智能客户服务统计数据。(2023 年)——表明超过三分之二的客户体验组织认为生成式人工智能将为服务增添“温暖”（ 2025 年 59 项人工智能客户服务统计数据），并最终在 100% 的客户互动中预测人工智能（ 2025 年 59 项人工智能客户服务统计数据）。
Futurum Research & SAS. 《体验 2030：客户体验的未来》(2019)——调查发现，品牌预计到 2030 年，客户互动过程中约 69% 的决策将由智能机器做出（要重新构想向客户体验的转变，营销人员必须做这两件事）。
Dataiku.物流领域顶级生成式人工智能应用案例。(2023) – 描述了 GenAI 如何优化装载（减少约 30% 的空置卡车空间）（物流领域顶级生成式人工智能应用案例）并通过扫描新闻来标记供应链风险。
Visual Studio Magazine. GitHub Copilot 在 AI 代码助手研究报告中名列前茅。(2024) – Gartner 的战略规划假设：到 2028 年，90% 的企业开发人员将使用 AI 代码助手（高于 2024 年的 14%）( GitHub Copilot 在 AI 代码助手研究报告中名列前茅 -- Visual Studio Magazine )。
彭博新闻。隆重推出 BloombergGPT 。（2023 年）——详细介绍彭博针对金融任务开发的 500 亿参数模型，该模型已内置于终端中，用于问答和分析支持（生成式人工智能即将进入金融领域）。

您可能还想阅读以下文章：

🔗人工智能无法取代的工作——以及人工智能将会取代哪些工作？
从全球视角审视不断变化的就业格局，探讨哪些岗位不会受到人工智能的冲击，哪些岗位面临最大风险。

🔗人工智能能预测股市吗？
深入探讨使用人工智能进行股市预测的能力、局限性和伦理考量。

🔗生成式人工智能如何在网络安全中应用？
了解生成式人工智能如何应用于防御网络威胁，从异常检测到威胁建模。

返回博客

国家/地区