本项目主要支持基于TencentPretrain的LLaMa模型量化推理以及简单的微服务部署。也可以扩展至其他模型，持续更新中。 特性 Int8推理 支持bitsandbytes库的int8推理，相比tencentpretrain中的LM推理脚本，加入了Batch推理。 优化推理逻辑 在Multi-head Attention中加入了key和value的 ...

2月4日凌晨，三方基准测试平台Chatbot Arena公布了最新的大模型盲测榜单，一周前刚发布的Qwen2.5-Max超越DeepSeek ...

DeepSeek给整个AI产业带来的影响是全方位、多层次的，除了自身模型的优秀，DeepSeek对于产业的带动效应更值得关注，从芯片产业到上层云服务产业，几乎所有头部玩家和创企都在积极涌入DeepSeek“生态圈”。

一转眼，春节即将过去，2025年的春节，可能是中国有史以来科技味最浓的。 Deepseek引发的科技海啸，成为全球探讨最多的话题。它出现的意义似乎超越了AI本身，成为发展中国家后发制人的信心载体。

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：[email protected]；[email protected]本文的作者是李锡涵（Xihan ...

Modern life makes us tired, right? But research from societies in Africa and South America suggests people in the ancient world slept only 6.5 hours a night.

清华大学计算机科学与技术副教授刘志远表示，DeepSeek表明，美国和中国在人工智能发展方面的差距已显著缩小。刘说，DeepSeek在扩展其模型和服务能力方面仍面临越来越大的挑战，人工智能技术仍在迅速发展。

年关将至，AI业界卷王辈出，好几家公司都在最近拿出了重量级的大模型。虽然很热闹，不过放在平时，你可能会觉得这和游戏公司没什么太大的联系。 但这次的情况不太一样：在被称为「新一代国产LLM之光」的大模型背后，我们听到一个特别神奇的，和游戏行 ...

社交媒体巨头Meta为其巨额AI（人工智能）支出进行辩护。 当地时间1月29日，在中国企业深度求索（DeepSeek）开发的大模型DeepSeek-R1引发业内震动后，Meta的CEO马克·扎克伯格（Mark ...

据央视新闻援引“玉渊谭天”的消息称，当地时间1月28日，美国多名官员回应DeepSeek对美国的影响时表示，DeepSeek是“偷窃”，正对其影响开展国家安全调查。#美国正对DeepSeek开展国家安全调查#很快冲上热搜，截至晚20时许，阅读量已经达 ...

AI智能体（AI Agent）是一种能够自主感知环境、进行决策并执行任务的智能系统。从早期专注于特定任务的AI系统，到如今能自主执行复杂任务的智能实体，演进历经两个关键时期： 基于规则和早期机器学习阶段：AI Agent专注于特定领域的任务，能力有限 ...

欢迎关注下方公众号阿宝1990，本公众号专注于自动驾驶和智能座舱，每天给你一篇汽车干货，我们始于车，但不止于车。2025年开年伊始，美国拉斯维加斯迎来了全球最大的消费电子盛会——国际消费电子展（CES）。这场于当地时间1月7日至10日举行的科技盛宴， ...