用同样的Benchmark测试,Zilliz 急了?

3月15日,知乎用户“几点James”(Zilliz 合伙人和技术总监栾小凡)对“零一万物笛卡尔(Descartes)包揽权威榜单ANN-Benchmarks 6 项数据集评测第一名”发表了看法,称“已经有一年多没关注这个排行榜(ANN-Benchmarks)了。主要是因为它测试的内容与用户的实际需求渐行渐远。”

然而栾小凡所谓 “一年多没有关注” 这个ANN-Benchmarks的说法着实匪夷所思。就在短短几周前,2月22日Zilliz官方发布了核心向量搜索引擎——Cardinal,使用的主要测试工具之一就是“ANN-Benchmarks”,这篇文章放出了五张ANN-Benchmarks离线测试的曲线图,测试结果占了相当大的篇幅。

感觉这是一个大型双标现场。同样使用测试工具,同样是进行的自测,自己测试时是一个“标准的性能测试工具”,几周后别人发布的测试就变成 “很难作为生产环境性能优化的实际指导”了?

两家公司都测了ANN-BenchmarksZilliz 公然双标?

2月22日,Zilliz发布官方微信文章《2024 年,向量数据库的性能卷到什么程度了?”》(
https://mp.weixin.qq.com/s/4xx2U8Xyr1RetTkMtRrxyw)一文中称“Zilliz Cloud 最近发布的核心向量搜索引擎 Cardinal,文章先是用了Zilliz 自制自评的 VectorDBBench,接着说明采用了 ANN-benchmarks”,介绍“ANN Benchmarks 是一个标准的性能测试工具,用于评估 ANNS 实现,并在使用不同距离度量的几个标准数据集上运行”。

Zilliz对于测试结果进行了展示,称展示是“通过 ANN-benchmark GitHub 页面上呈现的图表结果,并添加一个 Cardinal 曲线而生成的。”结论是“在所有性能测试中,Cardinal 的表现都十分出色。” 这,自家的合伙人和技术主管一年多没关注?

到了三月,零一万物对使用ANN-Benchmark测试笛卡尔(Descartes)在公号文章进行了说明,它在文中称,ANN-Benchmarks 是全球范围内最权威和常用的向量检索技术性能评测榜单之一,经评估其评测方式可以反应大部份大模型向量数据库所需要的主要能力,因此选用 ANN-Benchmarks 来验证自研向量数据库搜索内核的性能表现。

此外,零一万物还对于开展的离线评测方法做了说明。从说明中可以看出,零一万物先在 GitHub 按正规流程提交pull request,和组织方做了沟通,“组织方反馈近期不做线上评测更新”。然后技术人员才严格还原ANN-Benchmarks官方测试条件进行了离线测试。

GitHub ANN-Benchmarks官方网站上查不到Cardinal提交信息

求证了一下,零一万物曾经在 GitHub ANN-Benchmarks上提交了pull request 。在GitHub上,确实能够查到笛卡尔 于 2月29日 “add algo descartes(01AI)” 的提交记录。今天查询时,显示当前状态还是“Open”。

用同样的Benchmark测试,Zilliz 急了?

截止到今天(3月18日),Zilliz官宣Cardinal的评测榜单成绩后的25天,在GitHub上的Zilliz机构主页上,查找Cardinal,却怎样都搜不到相关信息。

用同样的Benchmark测试,Zilliz 急了?

梳理一下事件时间线,Zilliz为啥急了?

3月11日,零一万物对外发布研发出基于全导航图的新型向量数据库 “笛卡尔(Descartes)”,称其检索内核包揽了权威榜单 ANN-Benchmarks 6项数据集评测第一名。

榜单发布以后,被称为“向量数据库先锋”的Zilliz创始人星爵在朋友圈进行了回应,套用了一份容易让人产生其他联想的零一万物的“写作模版”,阴阳零一万物,朋友圈也能看到这份回应被Zilliz员工大量转发。

随后零一万物联合创始人、技术副总裁 Ethan戴宗宏发表朋友圈进行回复。他说:“技术人应该PK的是技术指标和性能表现,专注于自身技术研发和选代,而不是打口水仗。”

3月15日,栾一凡再次发难,知乎上批判零一万物发布的ANN-Benchmarks榜单结果,措辞激烈。零一万物向量技术负责人王高飞进行了实名回应。

3月17日,零一万物宣布开放笛卡尔向量数据库搜索内核,将技术成果回归社区,免费商用。其称笛卡尔向量数据库定位专注于大模型场景,没有作为单独商业产品的计划。

看完之后,有个感觉:榜单这事,有输有赢很正常,下次再华山论剑就是。这么急,看来零一万物确实动到了Zilliz的蛋糕。不论两家怎么斗,对于技术人员来说,谁向大家开放使用,并且能够好用,谁就是好的。

本文来自投稿,不代表创造权威IP 赋能创业者——IP百创立场,如若转载,请注明出处:创造权威IP 赋能创业者——IP百创

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2024年3月18日
下一篇 2024年3月18日

相关推荐

  • 短剧备案新规出台“大地震”,从业者们“慌”了吗?|调查

    作者| 贝贝 编辑| 赤木瓶子 近两年,微短剧发展迅猛,市场体量仅在两年间就实现了10倍增长,市场规模达数百亿元,接近电影市场。 在流量与收益井喷式增长的同时,部分微短剧内容粗糙、运营混乱等现象也不容忽视。“很多剧在宣传的时候用‘擦边’内容吸引人,真的是辣眼睛,最怕孩子刷手机的时候看见。”微短剧质量参差不齐等问题受到不少网友诟病,从视频平台观察不难发现,微短…

    行业动态 2024年4月24日
  • 总裁被开、股价暴跌,零跑汽车怎么了?

    来源 | 微信公众号“DoNews”作者 | 张宇 2024年开年不久,零跑汽车就遭遇了一场人事“地震”。 1月24日,零跑汽车发布声明称,吴保军劳动合同已于2024年1月8日到期终止,经董事会决议,公司不再续聘。 1月25日,前零跑汽车联合创始人、总裁吴保军在社交媒体平台发文回应离职传闻,其中提到:“很遗憾,我不得不离开一手参与创办的零跑汽车,我非常热爱零…

    2024年2月1日
  • 宁德时代在郑州成立新公司

    天眼查App显示,近日,郑州航空港区润时新能源有限公司成立,法定代表人为范一贞,注册资本563万人民币,经营范围含发电业务、输电业务、供(配)电业务,供电业务,电气安装服务,工程和技术研究和试验发展,新兴能源技术研发,在线能源计量技术研发,合同能源管理,太阳能发电技术服务等。股权全景穿透图显示,该公司由时代绿色能源有限公司全资持股,后者为宁德时代全资子公司。…

    2024年6月4日
  • #国家能源集团甘肃电力公司等在临夏成立光伏发电公司# 注册资本6200万

    天眼查App显示,近日,临夏国能光伏发电有限责任公司成立,法定代表人为刘建国,注册资本6200万人民币,经营范围含新兴能源技术研发、太阳能发电技术服务、合同能源管理等。股东信息显示,该公司由国家能源集团甘肃电力有限公司、福建亨通亿山新能源有限公司共同持股。 天眼查信息:https://www.tianyancha.com/company/7130954773

    2024年9月19日
  • 农业数字化产业链的“牛劲”

    什么是农业数字化产业链发展的“棋眼”?

    2023年10月23日

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

联系我们

邮件:939297903@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信