GPT-4与人工智能的未来：微软CTO对话比尔·盖茨( 三 ) _比尔

那么，你认为在接下来的5-10年里，我们还将面临哪些挑战？我们继续努力的方向是什么？
比尔·盖茨：我认为，在算法的执行方面会有一系列创新，很多芯片从硅到光学的转变将可以减少能源和成本。英伟达目前在这方面处于领先地位，将来也会出现更多的挑战者，因为大家希望在运行、训练上的成本越低越好。理想情况下，我们希望模型可以运行在端侧，这样就可以在独立的客户端设备上进行操作，而不必去云端获取。
软件方面也将面临巨大挑战。例如，用户是需要特定版本，还是持续改进的版本？即使是微软也会同时追求这两种目标。理想情况下，我们希望针对不同的领域，通过训练数据，甚至可能是一些适用于它的前置检查、后置检查的逻辑，来更准确地处理不同的需求。
除此之外还有许多社会问题，包括促进教育、医疗的发展等等。微软一直致力于提高生产力，未来，有些事情将会自动化，最终有的任务可能只需要一个人来完成，但这个人将比以往能够完成更多的事情。由此带来的挑战和机遇也会很多。我看到的团队正在探索其中，但我相信很多其他机构和组织也在推动相关工作。技术创新的速度将更胜以往，以此为目标的人力、资源和公司的数量远远超过了以前。
Kevin Scott：我职业生涯的早期，大部分时间都是作为一名计算机科学家接受培训的，编写编译器，编写大量汇编语言和设计编程语言，或者在研究生院进行并行优化和高性能计算机体系结构的研究。离开研究生院之后，我想我再也不会使用这些东西了。然而今天我们在建造超级计算机来训练模型时，这些技术又有了用武之地。如果现在你是一个20多岁的年轻程序员，你会对哪些技术感兴趣？
比尔·盖茨：这里面有相当多的数学的元素。很幸运，我曾经做了很多与数学相关的事，这是通往编程的大门。有些编程人员没有数学背景，我建议他们去掌握一些数学知识，因为很多计算都不只是编程问题。
最初的是一台128K的机器，其中22K是位图屏幕，几乎没有人能够编写出适合的程序，只有微软和苹果成功了。但现在你用数十亿个参数来操作这些模型，那么我们是否可以跳过一些参数，或简化一些参数，或进行预计算？在资源受限的机器上，优化变得尤为重要。
尽管过去半年在计算加速方面的进展比预期要好，但未来几年，又将面临多大的资源瓶颈？我们如何确保企业以更明智的方式分配这些资源？无论如何，在计算机科学的几乎每个领域，包括数据库类型技术、编程技术等方面，都需要我们以一种全新的方式来思考。
Kevin Scott：最后想问一下，你在工作之外会做些什么事？我们都知道你很喜欢阅读，经常提着一个巨大的手提袋随身携带着书籍，无论走到哪里，都会大量阅读，从科学到小说，无所不包。你的阅读节奏是怎样的？
比尔·盖茨：我打匹克球已经有50多年了，我也喜欢打网球和读书。我最近一年中阅读了80多本书，包括、 Smil、的书，这些作家的思想重塑着我的思维。同时，阅读也能让我放松心情。我想我应该多读一些小说，人们向我推荐了很多好的小说，这也是为什么我会在《盖茨笔记》上分享我的书单。