随着人工智能技术发展，AIGC(生成式人工智能)在各领域产生了巨大影响力。如何应对人工智能对就业、教育、伦理乃至人类生存带来的挑战，建立相应的全球治理机制，已成为事关经济发展与安全的重大前沿问题。
经济发展与安全论坛(简称“博鳌经安论坛”)第二届大会在长沙举行。在“AIGC时代的可持续发展与风险管理”分论坛上，国内外政要、学者、企业家围绕人工智能时代的可持续发展进行交流。
上海交通大学中国法与社会研究院院长、Tech4SDG联盟副主席季卫东说，2022年末引起世界关注的大语言模型，标志着生成式人工智能发展进入一个崭新阶段，给国家、社会带来各种便利、收益，但同时也带来令人不安的风险甚至威胁。
“人工智能的性能变得越来越强，我们研究发现，它很接近人的思维能力。如何使人工智能系统按照人类同样的思维方式接受一个正义的标准，符合道德的原则，这是一个非常突出的问题，就是所谓的大模型价值对齐问题。”季卫东认为，人工智能时代，加强金融风险防范、完善各国规则协调具有重要意义，人工智能监管应采取兼顾风险管理和科技研发的平衡政策。
商汤科技亚太区副总裁兼战略执行负责人邹春慧说，以AIGC为代表的人工智能产业高速发展的同时，其伦理治理风险备受关注，商汤已成立“人工智能伦理与治理委员会”，推出“AI安全治理开放平台”，推动建设开放、可信的人工智能创新生态，积极参与相应标准、监管规则制定。
野村综研(上海)咨询有限公司副合伙人陆成表示，得益于AIGC本身的模型优化，以及企业应用场景逐步丰富和提供AIGC服务专业公司基于大模型创造出的新价值，未来十年将会是AIGC爆发式增长的时代，平均增长率超30%。
“大语言模型和AIGC能充分赋能个人和企业，可大幅度提高企业和行政运行效率。”陆成介绍，目前，日本主要企业中约有七成计划通过利用人工智能缩减工时，有的企业甚至能使缩减幅度超过40%。“生成式AI在创造性工作上的应用是未来大趋势，但‘怎么用’取决于企业对AI的理解。”
“中国近年来结合实际陆续出台相关制度保证AIGC技术良性发展，并在第三届‘一带一路’国际合作高峰论坛上提出《全球人工智能治理倡议》。”国家开发投资集团特级专家、厦门市美亚柏科信息股份有限公司AI研发中心总经理赵建强说，未来，在智能投顾、财务数据分析、金融反欺诈等方面，AIGC技术均具有非常好的应用和发展前景。
建立安全机制防范AI风险，以及安全和性能如何平衡，亦是必须应对的挑战。“特别是过去半年多来，人工智能方面大语言模型的飞速发展与ChatGPT的横空出世，使得机器是否会取代人类的担忧第一次实实在在地摆在了人类面前。”博鳌亚洲论坛理事会秘书长李保东说。
安远AI创始人兼CEO、牛津大学人工智能治理中心政策研究员谢旻希认为，生成式人工智能的可持续发展和风险管理已成为世界各国和人民面临的共同课题，社会各界应积极支持通过博鳌亚洲论坛、“一带一路”倡议、联合国框架等推动具有广泛共识的标准规范，共同做好风险防范，促进人工智能技术造福于全人类。