大家好,我是二哥呀。
作为国内的头部大厂,百度在大模型这块的投入力度可以说非常大,3 月 16 号发布的大模型——文心一言可以说在业界激起了巨浪。
有支持的,当然也有怀疑的,但无论如何,百度勇敢的迈出去了第一步。讲真,国内想要追赶上 OpenAI,需要这种决心和投入。
这不,百度又发布了千帆大模型平台,支持第三方大模型的定制开发和训练,可以说覆盖了智能问答、内容创作、代码编写等多种应用场景。
那文心一言和千帆之间的关系到底是什么,下面这张图可以说是一目了然。
二哥一向对新鲜事物持有敏锐的嗅觉,这不,千帆出来的第一时间,我就体验了一波,下面就把我的使用体验分享出来,也是希望能给感兴趣的小伙伴踩踩坑、探探路,毕竟 AI 时代,我们不能掉队啊。
01、使用体验
千帆大模型平台测试网址:https://cloud.baidu.com/survey/qianfan.html
申请时需要填写公司名称、联系人、联系电话等,提交申请后,很快就能收到通过的消息。
目前已经预制了非常多大模型,包括业内知名的⼤语⾔模型BLOOMZ-7B、由BigScience研发并开源,能够以46种语⾔和13种编程语⾔输出⽂本。
还有 LLaMA2 全系列、ChatGLM2、RWKV、MPT、Dolly、OpenLLaMA、Falcon 等 33 个大模型,成为国内拥有大模型最多的平台。同时支持性能+安全的双重增强,模型推理成本可降低50%。
使用起来也非常方便,直接点击部署,然后点击下一步,选择后付费开通就可以了。
然后我们在应用接入这里创建一个“沉默王二狗腿子”的应用。
我们先用「在线测试」来体验一下。输入问题“请用 Java 帮我写一个冒泡排序”,选择服务“百度trubo 大模型”和应用“沉默王二狗腿子”。
我把代码复制到 Intellij IDEA 在本地检验了一下,并且把代码和 Copilot 生成的冒泡排序做了一个对比,一起来看一下。
public static void bubbleSortCopilot(int[] arr) {
for (int i = 0; i < arr.length; i++) {
boolean flag = false;
for (int j = 0; j < arr.length - i - 1; j++) {
int temp;
if (arr[j] > arr[j + 1]) {
flag = true;
temp = arr[j + 1];
arr[j + 1] = arr[j];
arr[j] = temp;
}
}
if (!flag) {
break;
}
}
}
public static void bubbleSort(int[] arr) {
int n = arr.length;
for (int i = 0; i < n - 1; i++) {
for (int j = 0; j < n - i - 1; j++) {
if (arr[j] > arr[j + 1]) {
// 交换元素位置
int temp = arr[j];
arr[j] = arr[j + 1];
arr[j + 1] = temp;
}
}
}
}
如果你想使用 API 调用的方式,可以通过下面这个文档查看。
千帆是目前国内拥有最多第三方大模型的平台,模型推理成本可降低50%
02、Prompt 模板
千帆大模型平台发布了 103 款 Prompt 模板,包含对话、编程、电商、医疗、游戏、翻译、演讲等十余个场景。
Prompt 是什么?
可能有一些小伙伴第一次看到这个词会觉得比较陌生,Prompt 就是提示词的意思,Prompt 是通过自然语言向大模型提出命令或指令,引导大模型生成相应的内容。
优质的 Prompt 更能得到高质量的回答。
我这里收藏了四个编程方面的 Prompt 模板,分别是 SQL 终端、Linux 终端、JavaScript 控制台和编程专家。
点击在线测试,选择编程专家,我们来测试一下。
我们来问一个 Stack Overflow 上非常高赞的 Java 问题:Java 是值传递还是引用传递。
进入在线测试,选择 BLOOMZ-7B 大模型(我们前面提到过),然后在键入 “/” 选择提示词。
卧槽,回答的真不错!这个问题还是非常能考验大模型的,讲真,如果大模型比较傻瓜,那这个问题几乎都会答错。
再来一个 Linux 终端,服务选择 RENIE-Bot-turbo。 结果真不错,完全符合真实的 Linux 场景。
03、插件功能
6 月份的时候,千帆已经上线了插件功能,是国内首家提供插件服务的大模型平台。
插件功能非常强大,意味着我们可以把一些基础的数据导入到千帆大模型平台。
首先,我们需要一份 doc 文档,可以通过 typora 导出,比如说我们把星球的面渣逆袭-分布式篇导出一份 word 文档。
然后,进入千帆大模型的插件编排页面,配置模型,并且安装域内知识检索增强插件。
选择上面导出的 word 文档。
查看上传进度。
然后我们来问他:说说CAP原则?为什么CAP不可兼得呢?等面渣逆袭上的内容,他都可以轻松应对。
也就意味着,企业或者个人完全可以定制一个属于自己的数字人,喂他的知识越多,他就回答的越专业。然后我们再调用千帆大模型平台,就可以为自己的应用服务了。
如果能把插件集成到办公场景中,就可以实现文档搜索、会议纪要、会议室预定、饭卡充值、休假申请等功能,可以以大大提升办公效率。
ending
千帆大模型平台目前提供的功能可以说非常强大,覆盖了大模型研发的全生命周期,包括:数据管理、模型训练、评估&优化、预测服务和Prompt工程和插件服务,端到端地帮助用户高效地开发和部署大模型应用,极大地降低大模型的技术门槛。
来看一下文心大模型的家族一览图吧,可以说非常的牛逼了。
对于想做大模型的企业来说,也值得去参考和借鉴,以及深度合作。
对于我们个人开发者来说,如果想从事大模型相关的工作(高薪),也一定要多了解一下千帆大模型平台的业务和功能。
AI 时代,绝不能掉队!
1 条评论
回复