第五届世界智能大会召开在即,5月10日下午,市政府副市长王卫东一行亲临大会组委会秘书处,开展调研慰问工作。
王卫东副市长在现场认真查看了秘书处落实市委市政府专题会议要求的工作清单以及第五届世界智能大会倒排工期甘特图,详细询问了各项工作进度;听取了大会组委会秘书处近期工作进展情况汇报,并部署有关工作。
王卫东副市长对秘书处工作人员夜以继日、不辞劳苦的工作态度和高度的责任心表示充分认可和肯定,他勉励大家在大会筹备的最后冲刺阶段,秘书处要在关键时刻要精密布置、有力推动、高效统筹;发挥好中枢作用,促进工作“交圈”;及时发现问题,找到解决方法;做细做实各项筹备工作。“苦战方能过关”,争取本届大会成功举办。
市政府副秘书长徐军、朱玉兵以及办公厅二级巡视员李春华陪同参加。市工业和信息化局局长尹继辉、总经济师周胜昔代表组委会秘书处陪同调研。
好文章,需要你的鼓励
这项由东京科学技术大学等机构联合发布的研究提出了UMoE架构,通过重新设计注意力机制,实现了注意力层和前馈网络层的专家参数共享。该方法在多个数据集上显著优于现有的MoE方法,同时保持了较低的计算开销,为大语言模型的高效扩展提供了新思路。
当前企业面临引入AI的机遇与挑战。管理层需要了解机器学习算法基础,包括线性回归、神经网络等核心技术。专家建议从小规模试点开始,优先选择高影响用例,投资数据治理,提升员工技能。对于影子IT现象,应将其视为机会而非问题,建立治理流程将有效工具正式化。成功的AI采用需要明确目标、跨部门协作、变革管理和持续学习社区建设。
小米团队开发的MiMo-7B模型证明了AI领域"小而精"路线的可行性。这个仅有70亿参数的模型通过创新的预训练数据处理、三阶段训练策略和强化学习优化,在数学推理和编程任务上超越了320亿参数的大模型,甚至在某些指标上击败OpenAI o1-mini。研究团队还开发了高效的训练基础设施,将训练速度提升2.29倍。该成果已完全开源,为AI民主化发展提供了新思路。