关于 AI 的说法涌向针对真实任务的测试。大多数被拦下。经得起测试的,则带着实测结果通过: 30 个真实编码任务中解决了 17 个, 每秒 38.9 个 token, 并且在本地硬件上运行,无需云端。
合作过 35 DAX 上市 · 12 FTSE 100 上市已在欧盟委员会专家数据库注册
先用双手学习。
小时候我常把东西拆开,看它们怎么运转。我就是这样决定要成为工程师的。我的第一份学历是轮机工程文凭。晚上,我每学期增加一项认证(电弧焊、铸造、制冷和空调维修,以及三种 CAD 系统),由此明白知识既存在于手册里,也存在于双手里。后来我开始在店铺柜台工作。销售让我先懂客户,再懂系统。再后来,考文垂大学的欧洲工程商务管理理学学士(荣誉)学位,把工程与商业放进了同一个框架。
从柜台出发,工作跨越了四个国家。
决策在哪里做出。
近二十年间,我在英国、法国、香港和德国工作,涉及五个领域:零售与电子商务、营销与媒体、供应链与物流、工业与能源,以及现在的 AI 与新技术。岗位从销售发展到战略与咨询,包括担任 CTO,同时承担技术与商业两方面。行业在变,规律没有变:决策的质量不会超过被带进会议室的知识,而这些知识往往掌握在不在场的人手里。
直到有一天,我决定认真研究这一规律。
谁会分享自己所知?
我在每个领域都看到了这一点,于是把它作为我的博士课题。博尔顿大学的 MBA(获 The Bolton Award)已经教会我用真实工作检验理论。我在曼彻斯特城市大学完成的博士研究,探讨的是知识共享行为:人们如何看待共享、有什么意愿、实际做了什么,以及是什么让他们共享或保留。在我看来,这些模式正是 AI 如今运行的基础。模型用人们选择分享的内容来训练,用它来回答,再把它传给提问的人。AI 对组织的影响由此而来,它也可能悄悄削弱自己所依赖的人类专业知识。这两点都无法靠供应商的幻灯片来判断。
于是我开始自己测试这些工具,用真实工作。
每个模型都要凭本事留下。
一台机器只有拆开过才算真正了解,AI 也不例外。我在自己的机器上运行开源模型,旁边也有云端模型,并用修复软件问题、从文档中提取字段等真实工作来测试它们。并非每个模型都能留下。Nemotron 3.5 Lightning 是一个 30B 参数的模型,在 30 个编程任务中解决了 15 个,而一个更快的模型解决了 18 个。在一项任务上,它为得出答案生成了十倍的文本。我把它移除了。我也微调自己的 Kev 检查点,采用 Jared Palmer 的开源方案,基于一个开源基础模型。判定工作是否通过的,是一项简单的测试,而不是模型。这就是整个实验室的规则:本地模型可以判定工作不合格,但绝不能批准工作通过。
这些年里经得起检验的东西,我都写了下来。
写下来的方法。
一部分已经出版:我与 Farag Edghiem 为 IGI Global 一本关于数字创业的书写了两章。四部已完成的手稿包含其余的方法,涉及决策、沟通、效率和习惯。每部手稿都是一组精炼的框架,读者第二天就能在工作中使用,把在实地验证过的东西变成他人可以重复的做法。