就在过去的一周中,GPT-4、文心一言、Claude、Alpaca、Google PaLM API、Microsoft 365 Copilot——这些AI大模型的炫酷烟花,接连在上周绽放。好像每天都在创造历史,世界在瞬息万变。让我们一起回顾一下这非同寻常的一周吧!
唯一没有大新闻的一天。大家还在猜测GPT-4,以及讨论前周五发布的Visual ChatGPT相关信息:
斯坦福大学发布Alpaca 7B,成本降到超低,性能匹敌GPT-3.5。清华推出ChatGLM-6B,消费级显卡就能部署,准确度接近GPT-3 175B (davinci)。
Alpaca 7B是斯坦福大学发布的一种模型,它是由LLaMA 7B模型在52000个指令跟随(指它可以根据给定的指令生成文本,而不是根据给定的文本生成指令 )演示的基础上进行微调得到的。Alpaca 7B的表现类似于OpenAI的text-davinci-003模型,但是它的大小却小得多,而且成本很低(<600美元) 。
这个低成本特性是由LLaMA 7B模型所带来的,有多低请看演示。
此外还有清华的ChatGLM-6B 。这是一个开源的、支持中英双语的对话语言模型,基于 General Language Model (GLM) 架构,具有 62 亿参数。ChatGLM-6B 使用了和 ChatGPT 相似的技术,针对对话场景进行了优化,可以支持多种对话任务,如闲聊、问答、推荐等12。不过,有一些批评的声音:
ChatGLM和ChatGPT的对比:
当然现在公开的demo是6B的,据说有个130B的DEMO效果更好一些:
狼真的来了!GPT-4在此日公布。由于网上消息和解读已有很多,官方也提供了一篇详细的论文,因此不再赘述。
我也凑了个热闹,写了篇“一些你可能不知道的 GPT-4 小知识”
这一天大消息不止一个:Goolge宣布PaLM API & MakerSuite,用以支持构建生成式AI应用的原型 。
PaLM API并不是一个语言模型,它只是 “Google 的大型语言模型的简单入口,可用于各种应用程序”。说白了,更像是一种服务集成用API。<-以上是我个人总结,官博的介绍写的摸不着头脑,其他推友也吐槽过:
此外还有:由从 OpenAI 出走的前员工们集体创建的 AI 初创公司Anthropic,公开发布类ChatGPT的AI助手** Claude**。之前Claude一直处在内测阶段。
另:AI公司Adept在B轮融到了$350M。他们的产品类似于你说我(AI)做。
Pytorch 2.0 正式发布。
大名鼎鼎的Pytorch相信即使没接触机器学习的人都听过它的名字。
2.0版本在完全向后兼容的同时从根本上改进了 PyTorch 在编译器级别的运行方式,比以前 PyTorch 1.0 中默认的「eager mode」所提供的即时生成代码的速度快得多。
HuggingFace Transformers的Sylvain Gugger写道「只需添加一行代码,PyTorch 2.0就能在训练Transformers模型时提供1.5倍至2.0倍的速度」
Midjourney V5 发布:AI画手”画“手不再困难。V5 模型采用了先进的工具和新的神经架构来生成美学和设计, 显著改善了生成图像中手和手指的表现,还提供图像到文本功能。
微软继续发力,发布了Microsoft 365 Copilot。
Microsoft 365 Copilot 是一款由 Microsoft 推出的人工智能助手,它由OpenAI的GPT-4驱动,可以帮你搞定文档、电子邮件和演示文稿等任务。想象一下,它就像个聊天机器人助手,融入你日常使用的Word、Excel、PowerPoint、Outlook和Teams等应用中。
Microsoft 365负责人Jared Spataro兴奋地说,Copilot虽不是完美无缺,但确实能提高工作效率。它能与Outlook整合,让你在处理邮件时轻松愉快。它还能在Microsoft Teams上给你提供会议内容总结,让你不再错过重要信息。微软还在酝酿一个商务聊天功能,让你在所有Microsoft 365数据和应用中无缝沟通。
此前,微软已经将AI驱动的ChatGPT与必应结合,未来还打算进一步将OpenAI的强大的大语言模型整合到Microsoft 365产品中。
目前,微软正与20个客户一起测试365 Copilot。作为OpenAI的密切合作伙伴,微软正全力以赴在先进人工智能领域与谷歌、亚马逊和Meta等公司竞争。
最后,终于到了百度的文心一言了:
“百度文心一言是一款基于百度自研的ERNIE模型的聊天机器人,可以进行语义理解、智能问答和情感交流等多种形式的对话。 百度文心一言是国内第一家对标ChatGPT的产品。”
由于解读的文章已经很多了,在此就不班门弄斧了,只谈谈自己的感想:百度曾经作的恶,让我永远不会摘掉对它的有色眼镜,加上中文圈语料的不靠谱,因此我对文心一言并没有多少期待。当天发布会直接跌没了的10%让我觉得也理应如此,但没想到昨天居然补涨了16%。也许,还是有那么一点希望在的。
如果这篇有帮助,请订阅转发,也可以fo我的推特。我将带给你更多关于Web3,Layer2,AI,以及日本相关咨询:
斯坦福大学发布Alpaca 7B,成本降到超低,性能匹敌GPT-3.5。清华推出ChatGLM-6B,消费级显卡就能部署,准确度接近GPT-3 175B (davinci)。
Alpaca 7B是斯坦福大学发布的一种模型,它是由LLaMA 7B模型在52000个指令跟随(指它可以根据给定的指令生成文本,而不是根据给定的文本生成指令 )演示的基础上进行微调得到的。Alpaca 7B的表现类似于OpenAI的text-davinci-003模型,但是它的大小却小得多,而且成本很低(<600美元) 。
这个低成本特性是由LLaMA 7B模型所带来的,有多低请看演示。
此外还有清华的ChatGLM-6B 。这是一个开源的、支持中英双语的对话语言模型,基于 General Language Model (GLM) 架构,具有 62 亿参数。ChatGLM-6B 使用了和 ChatGPT 相似的技术,针对对话场景进行了优化,可以支持多种对话任务,如闲聊、问答、推荐等12。不过,有一些批评的声音:
ChatGLM和ChatGPT的对比:
当然现在公开的demo是6B的,据说有个130B的DEMO效果更好一些:
狼真的来了!GPT-4在此日公布。由于网上消息和解读已有很多,官方也提供了一篇详细的论文,因此不再赘述。
我也凑了个热闹,写了篇“一些你可能不知道的 GPT-4 小知识”
这一天大消息不止一个:Goolge宣布PaLM API & MakerSuite,用以支持构建生成式AI应用的原型 。
PaLM API并不是一个语言模型,它只是 “Google 的大型语言模型的简单入口,可用于各种应用程序”。说白了,更像是一种服务集成用API。<-以上是我个人总结,官博的介绍写的摸不着头脑,其他推友也吐槽过:
此外还有:由从 OpenAI 出走的前员工们集体创建的 AI 初创公司Anthropic,公开发布类ChatGPT的AI助手** Claude**。之前Claude一直处在内测阶段。
另:AI公司Adept在B轮融到了$350M。他们的产品类似于你说我(AI)做。
Pytorch 2.0 正式发布。
大名鼎鼎的Pytorch相信即使没接触机器学习的人都听过它的名字。
2.0版本在完全向后兼容的同时从根本上改进了 PyTorch 在编译器级别的运行方式,比以前 PyTorch 1.0 中默认的「eager mode」所提供的即时生成代码的速度快得多。
HuggingFace Transformers的Sylvain Gugger写道「只需添加一行代码,PyTorch 2.0就能在训练Transformers模型时提供1.5倍至2.0倍的速度」
Midjourney V5 发布:AI画手”画“手不再困难。V5 模型采用了先进的工具和新的神经架构来生成美学和设计, 显著改善了生成图像中手和手指的表现,还提供图像到文本功能。
微软继续发力,发布了Microsoft 365 Copilot。
Microsoft 365 Copilot 是一款由 Microsoft 推出的人工智能助手,它由OpenAI的GPT-4驱动,可以帮你搞定文档、电子邮件和演示文稿等任务。想象一下,它就像个聊天机器人助手,融入你日常使用的Word、Excel、PowerPoint、Outlook和Teams等应用中。
Microsoft 365负责人Jared Spataro兴奋地说,Copilot虽不是完美无缺,但确实能提高工作效率。它能与Outlook整合,让你在处理邮件时轻松愉快。它还能在Microsoft Teams上给你提供会议内容总结,让你不再错过重要信息。微软还在酝酿一个商务聊天功能,让你在所有Microsoft 365数据和应用中无缝沟通。
此前,微软已经将AI驱动的ChatGPT与必应结合,未来还打算进一步将OpenAI的强大的大语言模型整合到Microsoft 365产品中。
目前,微软正与20个客户一起测试365 Copilot。作为OpenAI的密切合作伙伴,微软正全力以赴在先进人工智能领域与谷歌、亚马逊和Meta等公司竞争。
最后,终于到了百度的文心一言了:
“百度文心一言是一款基于百度自研的ERNIE模型的聊天机器人,可以进行语义理解、智能问答和情感交流等多种形式的对话。 百度文心一言是国内第一家对标ChatGPT的产品。”
由于解读的文章已经很多了,在此就不班门弄斧了,只谈谈自己的感想:百度曾经作的恶,让我永远不会摘掉对它的有色眼镜,加上中文圈语料的不靠谱,因此我对文心一言并没有多少期待。当天发布会直接跌没了的10%让我觉得也理应如此,但没想到昨天居然补涨了16%。也许,还是有那么一点希望在的。
如果这篇有帮助,请订阅转发,也可以fo我的推特。我将带给你更多关于Web3,Layer2,AI,以及日本相关咨询: