文章目录[+]
图源：美国国务院网站
当前，AI已成为推动经济增长和社会进步的重要力量，其未来发展趋势值得我们关注。国际数据公司（IDC）预测，预计到2030年，AI将为全球经济贡献19.9万亿美元，推动全球GDP增长3.5%。
近日，世界机器人合作组织理事长、中国科学院院士乔红在2024年世界科技与发展论坛上，发布了《2024年人工智能十大前沿技术趋势展望》。
“人工智能作为当今科技革命的重要驱动力，正以前所未有的速度改变着我们的生活和工作方式。从智能制造到智慧城市，从医疗健康到金融服务，人工智能的应用无处不在，其影响力深远而广泛。然而，我们也面临着新的挑战和机遇。” 乔红表示，“如何把握人工智能的发展方向，如何推动技术创新与产业升级，如何确保人工智能技术的可持续发展，这些问题都需要我们深入思考和探讨。”
当前，人工智能技术正在迅速发展，也将在不同领域产生广泛应用和深远影响，同时也展现出了技术发展的多样性和复杂性。未来的人工智能将更加透明可信，同时也会面临更多的伦理和监管挑战。11月5日，Aspencore将在深圳举办一场主题为“边缘·芯未来”的AI技术全球峰会，将邀请国内外AI领域的代表性企业发表与探讨未来AI技术发展与应用的看法与实践布局。欢迎参会：
https://app.zhundao.net/event/pc/index.html?track=0005&id=371182
具体而言，2024年人工智能十大前沿技术趋势内容整理如下。
在当前AI时代下，数据的重要性已经不言而喻。然而，大量无效数据的存在，不仅消耗了大量计算资源，也对模型可靠训练带来极大的挑战。未来，小数据和优质数据的价值越来越重要。其中，小数据更注重数据的精度和相关性，优质数据则通过严格的筛选、清洗和标注工具剔除了噪声和不相关信息，从本质上减少人工智能算法对数据的依赖和不确定性，增强网络可靠性。同时，建设多样性的数据集不仅能够从理论基础上支撑不同技术路线的AI发展，还为解决通用人工智能的瓶颈问题提供新的可能。
毫无疑问，构建可信赖的AI系统，确保人与AI之间的有效协作，非常重要。除了输入的训练数据集质量，AI系统的可靠性还体现在输出结果的可执行性上。只有AI的输出结果与人类价值观相符，才能确保AI模型的能力和行为与人类意图保持一致。仅依靠数据和算法并不足以实现人机对齐，需要将人类的价值观和伦理道德转化为强化学习奖励函数。这意味着发展AI不仅要考虑任务的效率、效益和效果，还需要考虑行为是否符合人类的伦理标准，增加伦理因素的权重。
当前AI系统的合规性、安全性和伦理问题愈发突出，建立一个类似宪法上位法的AI监督模型框架尤为必要。通过制定明确的标准和规范，确保AI系统的开发和使用过程中的合规性和安全性，减少AI在制度没有确定的情况下被过度使用所带来的风险。比如，在设计阶段，必须考虑系统在对人的监控、对价值观的引导，以及在军事领域的过度使用等方面可能带来的社会影响；在训练阶段，所使用的数据和算法须确保不会侵犯用户隐私或造成不公平的结果；在部署阶段，还需要持续监控AI系统运行状态，及时发现并修复任何潜在的风险和漏洞。
解释性方法旨在让AI模型的决策过程和结果可被形式化描述，以便人类能够理解、评估、监督和干预模型的行为，实现算法可靠性和有效性的平衡。在保障有效性的前提下，提高可解释性，有助于减少对公共资源的消耗，增强用户对AI系统的信任度，并促进其在关键领域的应用。比如，在医疗健康领域，一个具有高可解释性的AI诊断系统能够让医生更容易理解其判断依据，减少不必要的检查和治疗程序；在金融服务领域，可解释的AI模型可以更清晰地给出其风险评估和投资策略，降低风险。增强AI系统的可解释性还有助于在出现问题时进行调试和修正，确保系统的持续改进和优化。
脑机接口 图源：Neuralink
基于海量参数和训练数据的大规模预训练模型能够有效提高人机交互和推理能力，增强可完成任务的多样性和丰富性。目前Scaling Law依然有效，这种规模效应不仅体现在语言模型上，也在图像处理、语音识别等多个领域中得到了验证。一方面参数量与数据量增长为模型提供了更为丰富的训练素材，使其能够捕捉到更为细致和多样的特征，不断提升了模型的表达能力和泛化能力。另一方面算法创新也将开创新的scaling范式，例如GPT-o1引入了思维链协议和自洽性思维链等多项创新技术，更关注推理时间和参数规模两条曲线的协同作用，将复杂问题拆解为简单的步骤，代表了推理scaling的新范式。
多模态大模型可处理和理解文本、图片、音频、数据表格等多种类型的数据输入，并根据任务需求生成多种类型的输出。这种模型通过跨模态转换实现不同类型数据之间的理解和互动，从而打破了单一模态的限制。进一步引入传感器、雷达以及3D点云等机器人视角的更多数据模态，并建立全模态多任务统一学习框架，就建立了全模态大模型。例如引入通常用于捕捉三维空间信息的3D点云数据模态，对于机器人的导航和避障尤其重要。模型的全模态迁移能力可在不同任务间共享知识，提高泛化能力和适应性，甚至突破感知、认知和决策的交互屏障，从而涌现更多新的能力。
人工智能（AI）正在深刻地改变科学研究的范式，推动着科学发现和研究方法的革新。使用大模型、生成式技术等来增强和加速科学研究中的提出假说、试验设计、数据分析等阶段的效率，提高研究效率和准确性。科学家们可以利用AI技术进行实时的试验监测和调整，快速反馈试验结果，动态优化试验设计和假设。AI for Science技术还推动了科学进步和研究范式升级，牵引传统的线性研究范式向更加快速迭代和自适应的方向发展。比如，在机器人结构设计中，AI模型能够模拟不同任务和环境需求下机器人的运动控制特性，从而协助用户快速生成最合理的构型方案。
具身小脑模型是一种新兴的人工智能技术，作为机器人运动的重要调节中枢，通过多模型投票等集成学习方法，结合机器人本体结构与环境特性选择合理的模型控制算法，确保机器人在理解自身本体约束的前提下，完成高动态、高频、鲁棒的规划控制动作，以增强其应对不确定性和突发状况的能力。该模型核心在于解决软件算法与物理空间结合的问题，以及单体高性能和能力通用性之间的矛盾，从而使智能机器人系统更加满足现实世界的精细操作与实时控制需求。
实体人工智能系统是一种将智能嵌入到物理实体中的技术，其核心理念是赋予物理实体以智能，使其能够自主感知环境、做出决策并执行相应任务。比如，智能家居中的扫地机器人不仅能够通过识别房间的布局和家具的位置实现动态规划清扫路径，还可以记住敏感物品的存放位置和主人的作息习惯，从而使传统设备能够突破其原有的功能限制，实现更高水平的智能化操作。人形机器人是实体人工智能系统的终极表现形态，它不仅具备多模态感知和理解能力，能够与人类自然互动，还可以在复杂环境中自主决策和行动，并有望在未来应用到更多复杂的工作场景中。
世界模拟器是一种能够创造和模拟数字世界的工具，通过构建虚拟环境来实现无限的可能性。通过综合考虑数据质量、多样性、模型训练策略和正则化技巧，生成模型在未见数据上的泛化能力得以不断提高，结合数字交互引擎提供沉浸式的高仿真体验，为使用者带来更加丰富和多样化的游戏世界，应用于教育、娱乐等领域，还可创造更多超级数字场景。比如，通过生成模型创建虚拟实验室，学生可以在无风险的环境下进行科学实验，还能根据用户的喜好和行为习惯，自动生成个性化的游戏内容，从而提供更加个性化和互动性强的体验。在机器人领域，这种技术还可用于构建大规模、标准化的多模态机器人行为数据集，提高机器人本体设计、仿真训练和算法迁移的能力。
综合上述，这些趋势反映了当前AI领域对于模型的可解释性、伦理监督、跨模态学习以及实际应用场景的重视。同时，随着生成式AI技术的成熟，AI的应用范围正在不断扩大，从科学研究到日常生活的各个领域都有其身影。此外，随着AI能力的增长，相关的监管和技术伦理问题也变得越来越重要。
免责声明：转载自电子工程专辑，不代表本账号看法。如涉及侵权，请联系删除。
