下一代编译器LLM

用户头像神盾局量子研究部
2023-07-04 发布

**下一代编译器:**LLM

20世纪70年代末,有个人电脑套件,但价格昂贵。史蒂夫·沃兹尼亚克(Steve Wozniak)在6502处理器的基础上开发了一种强大的架构,使更多的人能够发挥这些机器的潜力。史蒂夫·乔布斯(Steve Jobs)将沃兹尼亚克的架构打造成了一款完整的产品,改变了像我这样的人的世界。乔布斯将沃兹尼亚克出色的设计转化为了一种形式,使任何对计算机感兴趣的人都能轻松购买和使用这些机器,而不需要任何硬件经验。

将一项新技术与一个交付系统相结合的过程被称为放大。这个系统需要高度专业知识才能操作复杂的技术,并使数百万其他不具备深厚专业知识的人能够使用该技术。这正是人类文化的一个令人惊叹的方面,我们在其中建立了系统和工具,带来了强大的新能力,增强了我们做更多事情、更快思考和更好地了解世界的能力。

与个人计算机相关的放大效应是通过将以前复杂而昂贵的技术打包,并以一种使没有制造计算机所需技能的人能够获得计算能力的方式进行包装。这涉及将微处理器、存储器(软盘)、显示器和编程语言直接访问这些功能的框架(如Applesoft BASIC、DOS 3.3和汇编程序)结合起来。

自个人计算机出现以来,这种放大效应已经多次重复,每次都随着放大范围和放大率的增加而增加。互联网、万维网、MP3、iPhone、云计算等都是其中的例子。

大型语言模型和生成人工智能的迅速崛起是最新的一个令人惊叹的发展,其规模和速度令人震惊。虽然通常与先前的技术加速降低成本、包装和消除进入壁垒的迭代相关的放大效应也适用于这种情况,但在这种情况下,有一个主要区别是推动变化的速率。

大型语言模型加速的绝对革命性因素是它们能够减少与现有技术相关的一个主要障碍:学习编程的需求。在过去,虽然有一些应用程序(如VisiCalc)让计算机开始变得有用,但一开始这些机器没有太多可用的软件——如果你希望它执行有用的任务,就必须为其编写代码。

从Ada Lovelace提出机器执行复杂计算的潜力开始,编写代码一直是每一项技术创新的要求。随着时间的推移,汇编语言作为与早期计算系统进行通信的主要手段出现了。程序员必须费尽心思地编写适用于每种机器体系结构的汇编程序代码,然后将其转换为可执行的机器代码。这需要对硬件有深入而具体的了解,才能为机器编写指令。

随着计算机的发展,高级编程语言也相继出现,如FORTRAN、COBOL、Lisp以及后来的C和C++。这些语言使程序员能够以更易于阅读的方式编写代码,从而将底层硬件的复杂性抽象出来。这种转变极大地提高了生产力,并使创建更复杂的软件系统成为可能。然而,学习如何编写代码以充分利用这些技术的要求一直存在,每次主要平台的变革都是如此。

互联网需要网络级编程才能进行使用。万维网、网络浏览器和HTML的出现扩大了互联网的受众和覆盖范围,但你需要编写HTML代码,然后编写PHP、Active Server Pages,最后编写JavaScript才能真正利用它。

iPhone拥有令人难以置信的强大移动功能,但真正让它腾飞的是应用商店,当时你需要了解Objective-C才能创建应用。

随着云和云平台的出现,只有拥有信用卡的人才能使用那些为大型企业保留的功能。

然而,编码需求的障碍不仅持续存在,而且随着不同平台和语言的数量不断增加,编码需求也变得更加复杂。

**大型语言模型(LLM)**的革命性出现正准备改变这一现状,并且正在迅速改变。通过在大量文本数据上对这些模型进行训练,LLM开发了前所未有的理解自然语言并生成代码以响应人类可读指令的能力。这一突破使非技术人员能够为软件开发做出贡献,无需学习编程语言。

现在,LLM可以根据特定的提示生成函数代码,无论是从英语还是其他语言转换为任何编程语言,有效地将大型语言模型打造成下一代编译器。

LLM对使任何人成为大型企业的程序员的能力潜在影响巨大。通过让非技术员工用他们的母语编写代码,LLM将彻底改变软件开发过程。这一新的能力通过扩大软件项目的潜在贡献者库来加速数字化转型,并通过授权员工发展和实施他们自己的想法来培养创新文化。

此外,LLM减少了对专业软件开发人员的依赖,使他们能够专注于更复杂的任务。这种转变有可能弥合技术人员和非技术人员之间的差距,改善整个组织的协作和沟通。

据我所感,将自然语言问题与"编译器"的LLM集成首先出现在人工智能平台和数据库中。查询语言是一个比一般编程语言更受限制的领域。集成专门为了将问题解释为查询语句而经过训练的LLM具有巨大的价值。我预计像Databricks这样的平台将是首批提供这些类型功能的。

实际上,图数据库领导者Neo4j已经展示了这种能力。

如果Neo4j更进一步,训练出一种能够用任何语言回答问题并将其转换为密码语句的自然语言"编译器",那么任何人都可以利用图的力量,而无需学习如何编写密码。

想象一下,一位高管能够用任何语言提出问题,并以指定的形式返回结果——可以是用于探索的图形、用于电子表格的表格、用于可视化的图表或用于报告的全文。

图形模型也非常适合白板使用,因为绘制模型的方式以及白板上实体之间的关系准确地反映了实际的数据模型。这是一个独特的特征,与其他形式的数据建模范式完全不同。它甚至可以基于描述自动生成模型,或者更好的方法是,简单地将从白板上捕捉到的实际绘图提供给LLM。

这将是一个令人难以置信的能力变革,使企业中的任何人都能够创建并利用他们自己的组织数据模型。当然,仍然需要专家来整合数据基础、设置训练数据、构建用于模型训练所需的代码并进行微调和流程以保持最新。但一旦这些工作完成并到位,企业中的任何人都可以充分利用这一新范式。

编程领域的从业人员显然对此表示担忧。事实是,就像以往的任何扩展一样,技术能力的范围得到了扩展。虽然每个人都可以使用自己选择的自然语言(在我的情况下是英语)编写提示来生成代码,但目前编写代码的人将拥有增强其现有能力的工具。

更深层次的编码是一种心态:一种将复杂问题分解为模型和模式以形成解决方案的能力。实际上,计算机科学和数据科学领域的培训将变得更加重要,以确保那些正在构建企业代码以解决特定业务和工程挑战的人拥有准确的数据和经过充分培训的生成器,从而能够准确地将他们的自然语言提示转换为代码。

人工智能增强将给企业带来巨大的好处,因为它将有助于更快地创建MVP(最低可行产品)。

此外,人工智能增强还将使企业受益,因为它允许商务人员以惊人的新方式利用数据获取洞察力,工程师则可以通过生成代码解决那些需要深入领域特定知识的问题,以应对日益复杂的挑战。

为了实现这一目标,我们需要获取存储在文档和文件中的企业知识以及来自所有企业系统的数据,并利用这些知识来微调商业模型或培训特定于企业的自定义LLM模型。然后,这些模型可以用于组织内创建联合试点,为编程、专业知识、代码生成和工程解决方案提供支持——想象力是有限的。

将这些模型与各种商业分析工具(如PowerBI)链接在一起意味着企业中几乎每个人都可以成为程序员。这将为企业带来巨大的潜力和灵活性。

评论