AiNews
⚡ 速览 🧠 模型
← 返回首页

#multimodal

包含标签 "multimodal" 的文章,共 17 篇。

🧠 模型动态 V2EX

Grok 4.5发布:多项基准超Opus 4.8

xAI 正式发布 Grok 4.5 大模型,在 DeepSWE 和 Terminal Bench 等多项关键基准测试中超越了 Opus 4.8。该模型具备 500K 上下文窗口(马斯克透露后续将扩展至 1M),并全面支持视觉多模态能力。在性能与成本控制上,Grok 4.5 表现亮眼:其推理速度达到 80 TPS,Token 效率高于 GPT 5.5 和 Opus 4.8;定价为每百万输入 Token $2、输出 Token $6。根据 Artificial Analysis 的数据,其单任务运行成本低于 GLM 5.2。对于开发者而言,Grok 4.5 在软件工程和终端操作等实际开发场景中的出色表现,意味着它将成为构建 AI Agent 和自动化开发工具的强有力候选者,进一步加剧了顶尖大模型领域的竞争。

🛠️ 开发工具 LINUX DO

Claude Code配GLM5.2粘图报400错误排查

本文探讨了开发者在使用 Claude Code 命令行工具时遇到的一个多模态输入故障。在通过 CC-Switch 代理切换至火山引擎的 GLM5.2 模型时,向对话框粘贴图片会立即触发“API Error: 400 Model only support text input”的报错。该问题的诡异之处在于其非持续性:彻底重启 Claude Code 并恢复历史记录后,图片能被正常识别,但使用一段时间或开启新会话后,报错会再次出现。目前已排除 Tool Search 功能的影响。开发者推测,问题根源可能在于 CC-Switch 转发请求时未正确刷新请求头字段(导致仍携带旧的纯文本请求头发送),或是火山引擎网关的协议兼容性问题。这一现象反映了在使用第三方代理适配不同大模型生态时,多模态输入协议在状态保持和动态刷新上的技术痛点。

📰 行业资讯 LINUX DO

AI生成文案致描述不符 闲鱼卖家维权受阻

近日,一位闲鱼卖家因平台AI自动生成的商品描述而陷入维权困境。卖家在发布全新未拆封的中兴U30 Air时,上传了外包装图片,平台AI根据图片自动生成了“绿色”的颜色描述(实际机器为白色,因包装盒含有绿色元素被AI误判)。卖家疏忽未改便发布并售出。 买家收到货后拆封了全新包装,随后以“描述不符”为由申请退货。卖家依据平台原规则(拆封不退)拒绝,但在“闲鱼小法庭”中败诉。随后,卖家发现平台已悄然修改了相关交易准则,导致其面临钱货两空的风险。 该事件引发了开发者和AI创业者对AIGC在电商场景落地风险的思考: 1. **AI多模态识别误差**:AI在处理包装盒视觉信息时发生误判,导致源头信息错误。 2. **平台责任边界**:平台引入AI辅助工具提高效率,但在因AI失误导致的纠纷中,责任判定和规则调整机制仍不完善,给用户带来了实际损失。

🧠 模型动态 Reddit

潜空间预测Transformer:重塑世界模型

本文探讨了“下一代潜空间预测Transformer”(Next-Latent Prediction Transformers)这一前沿研究。该技术改变了传统自回归模型预测下一个Token或像素的模式,转而预测自监督编码器(如JEPA或DINO)输出的“潜空间表征”(Latent Representations)。这种方法的核心优势在于,模型无需耗费计算资源去重建无意义的底层细节(如视频中的背景噪点),而是专注于捕获高维的语义信息和时空逻辑。这为构建高效的“世界模型”(World Models)提供了全新路径。对于AI开发者和创业者而言,该技术在具身智能、自动驾驶和AI Agent的长期规划中具有巨大的应用价值。它不仅大幅降低了多模态训练的计算开销,还显著提升了模型在复杂物理世界中的推理与泛化能力,是迈向通用人工智能(AGI)的关键一步。

🧠 模型动态 LINUX DO

DeepSeek识图模式全量上线,结束灰度测试

DeepSeek 近日宣布其识图模式已成功结束灰度测试,并正式面向所有用户和开发者全量推送。这一更新标志着 DeepSeek 大模型在多模态能力上迈出了重要一步,使其能够理解并处理图像信息,从而与文本内容进行深度融合。此前,识图模式仅限于部分用户进行内部测试,旨在收集反馈并优化模型性能。现在,随着全量上线,开发者可以利用 DeepSeek 的图像识别能力,构建更丰富的应用场景,例如智能图像分析、视觉问答系统、基于图像的内容创作辅助等。此举无疑将提升 DeepSeek 在多模态AI领域的竞争力,为中国AI开发者和创业者提供更强大的工具,拓展AI应用的边界。

🧠 模型动态 LINUX DO

GLM 5.2在编程表现亮眼,但原生多模态能力仍是短板

近期用户对智谱GLM 5.2的深度体验显示,该模型在前端跑分中表现出色,位列第二。在代码修正方面,GLM 5.2进步显著,能有效处理复杂的公司业务逻辑,甚至解决了此前5.5 high版本存在的编译错误问题。其交互方式被认为与Opus系列相似,在不理解需求时会主动提问,而非盲目执行。 然而,GLM 5.2最大的局限在于其并非原生多模态。在需要复刻UI的场景下,仅依靠MCP的识图和网页理解能力存在不足,容易忽略细节,此时仍需借助如GPT等外部模型进行精细修改。此外,用户发现GLM 5.2在完成计划任务后或遇到编译环境占用等情况时,会自行停止运行,且在CC(可能是指某种协作或通知系统)中缺乏提醒,影响了用户体验。 尽管如此,将Fable 5的提示词应用于GLM 5.2后,用户体验有所提升。但对于智谱的Function Calling功能,用户表示在12万提示词的上下文长度下,其效果可能被稀释,导致使用意愿降低。总体而言,GLM 5.2在编程和逻辑处理方面展现出强大潜力,但与Fable 5等顶级模型仍有差距,且在多模态和任务执行的通知机制上尚待完善。

🧠 模型动态 LINUX DO

xAI发布Grok视频生成模型1.5

xAI 宣布将 Grok Imagine Video 1.5 视频生成模型从预览版转为全面可用。开发者可通过 Imagine API 接入 `grok-imagine-video-1.5` 模型,网页端及移动端用户则可体验 Video 1.5 Fast 版本。 该版本在多项核心技术指标上实现突破:首先,音视频同步与物理特性显著增强,语音更清晰且嘴型同步更精准,运动物理表现更连贯、重量感更真实;其次,生成速度大幅提升,生成 6 秒 720p 视频仅需约 25 秒(此前超 40 秒)。此外,xAI 还将逐步推出 Projects、Multiple agents(支持并行运行多个生成任务)和 Search 等新功能。这为多媒体应用开发者提供了更高效、低延迟的视频生成 API 支持,有助于优化 AI 创作与工作流集成。

💻 AI 编程 LINUX DO

开源MCP项目赋能DeepSeek:Claude Code实现识图

该新闻介绍了一位开发者如何利用开源项目“Visual-Enhancement-mcp”为在Claude Code中使用的DeepSeek API增加识图能力。此前,该开发者在使用DeepSeek API进行编程时,一直受限于其缺乏图像识别功能。 通过采纳社区开源项目“Visual-Enhancement-mcp”,并结合阿里云百炼平台的Qwen3-VL-plus模型作为识图后端,成功实现了这一功能扩展。具体实现步骤包括在Claude Code的`ccswitch`中进行配置:将MCP类型设置为`stdio`,命令选择`npx`,并输入包含API基础URL、API路径、API密钥以及指定`qwen`模型的参数。 这一实践展示了MCP协议在增强AI开发工具功能方面的灵活性和潜力,为中国开发者和AI创业者提供了一种实用的解决方案,以弥补现有大模型在特定模态能力上的不足,从而提升AI辅助编程的效率和应用范围。该方法通过集成外部多模态模型,有效扩展了DeepSeek在Claude Code环境下的感知能力,对于需要处理视觉信息的编程任务具有重要意义。

📰 行业资讯 google

谷歌搜索推AI新功能,升级二手与复古购物

谷歌宣布在其搜索(Search)和购物(Shopping)服务中集成全新的 AI 工具,旨在优化用户的二手及复古商品购物体验。该更新主要依赖多模态 AI 技术,实现了以下核心功能: 1. 升级的视觉搜索:用户可通过上传实物照片,利用 AI 快速在全网二手平台中匹配同款或相似款; 2. 智能聚合与比价:AI 能够跨越多个零散的二手电商平台,对商品价格、成色及来源进行结构化整理和对比; 3. 个性化推荐:基于用户偏好,AI 智能推荐独特的复古单品。 这一举措展示了 AI 图像识别与大模型搜索在垂直电商领域的落地应用,为开发智能导购 Agent 的创业者提供了极具价值的场景参考。

💻 AI 编程 V2EX

开源Codeshell:多模态AI辅助开发框架

一位国内开发者在GitHub开源了名为Codeshell的AI辅助开发框架。该项目起初为简陋的TUI版本,在参考了相关竞品源码后,作者重构并解耦了Core(核心逻辑)与TUI(终端界面),将Core独立打包用于线上Bad Case的收集与自迭代。为提升用户体验,作者随后推出了Electron版本,并实现了对主流AI插件生态的兼容。 在解决“如何让AI修改前端样式”这一痛点时,作者摒弃了传统的DOM元素圈选思路,转而采用“屏幕区域框选+多模态大模型”的全新方案。用户只需在界面上框选目标区域,底层即可自动获取对应元素并结合多模态模型进行样式重叠与调整。这一探索展示了多模态大模型在前端UI自动化修改和交互设计中的巨大潜力,为AI Coding工具的演进提供了新思路。

📰 行业资讯 LINUX DO

ChatGPT中Sora入口变动,视频生成质量受限

近日,Linux.do 社区用户反映 ChatGPT Plus 界面中的 Sora 视频生成入口疑似发生变动或消失。有用户在尝试生成教学动画视频时发现,原本的 Sora 快捷入口已不可见,最终只能通过普通对话框生成一段画质较低的 MP4 格式视频。这一现象引发了开发者和创作者对 OpenAI 多模态功能分流策略的讨论。分析认为,OpenAI 可能正在对 Sora 的接入权限进行动态调整,或在后台将部分常规视频生成请求路由至低成本、低分辨率的过渡模型,以缓解算力压力。对于依赖 AI 进行视频内容创作的开发者和创业者而言,这表明目前消费级订阅中的高阶视频生成服务仍存在不稳定性。建议开发者在构建相关工作流时,保持对 OpenAI 接口变动及模型分流机制的关注,并考虑多模态备用方案。

🛠️ 开发工具 LINUX DO

Dify类平台集成Qwen3-VL-Embedding

针对中国开发者和AI创业者在多模态AI应用开发中的痛点,原文探讨了如何便捷地调用和集成多模态Embedding模型,特别是Qwen3-VL-Embedding。当前,Dify等平台已极大简化了大型语言模型(LLM)应用的开发流程,但对于多模态Embedding模型的集成,开发者仍在寻找类似的开源工具或平台。Qwen3-VL-Embedding作为一种强大的多模态表征模型,其价值在于能够将文本、图像等不同模态的信息统一编码为向量,从而在多模态检索、内容理解、推荐系统等场景中发挥关键作用。然而,直接调用和部署这类模型,尤其是在缺乏统一接口或低代码工具的情况下,对开发者而言仍具挑战。社区关注的焦点在于,是否存在类似Dify的开源项目,能够提供友好的界面和API,简化Qwen3-VL-Embedding的调用、管理和应用集成。这反映了市场对易用型多模态AI开发工具的迫切需求,也预示着未来AI开发工具将进一步向多模态能力集成和低门槛化方向发展,以赋能更多创新应用。

🧠 模型动态 LINUX DO

阶跃星辰发布 Step 3.7 Flash 多模态模型

阶跃星辰(StepFun)在其开放平台正式推出全新旗舰多模态推理模型 Step 3.7 Flash。该模型主打“高速推理、原生多模态与工具调用”三大核心能力。作为一款面向开发者的高性能模型,Step 3.7 Flash 在保持极速响应的同时,显著提升了复杂任务中的逻辑推理与多模态理解能力,并深度优化了 Tool Use(工具调用)功能,便于开发者构建更具实用价值的 AI Agent 应用。这一发布标志着国内大模型在兼顾“低延迟”与“高智能推理”方向上的最新进展,为实时交互、智能助理及多模态数据处理等场景提供了高性价比的 API 选择,助力开发者降低算力成本并提升应用体验。

🧠 模型动态 LINUX DO

快手多模态大模型成功引入DeepSeek DSA

快手自研的多模态大语言模型 Keye-VL-2.0-30B-A3B 在底层架构上实现关键突破,首次在多模态理解场景中成功应用了 DSA(DeepSeek Sparse Attention,稀疏注意力机制)。该模型通过将 DSA 与极具针对性的特征聚合技术相结合,显著提升了长视频的处理能力。在面对长达数小时的视频序列时,模型能够有效过滤高噪声环境中的干扰信息,实现高效的信息提纯。这一技术升级使模型能够更精准地捕捉视频中的关键帧,并理清复杂的动态演变规律。对于开发者而言,这展示了 DSA 架构在多模态领域的巨大应用潜力,为长视频分析、多模态内容理解等实际业务场景提供了更高效、低成本的底层技术范式。

🧠 模型动态 Hacker News

图像、Shazam与RAG背后的统一搜索范式

本文深入探讨了图像检索、音乐识别(Shazam)以及大模型检索增强生成(RAG)这三种看似迥异的技术背后所共享的核心架构——向量搜索(Vector Search)。 - **核心技术实现**:无论是将图像转化为高维特征向量,还是将 Shazam 的音频频谱图转化为指纹哈希,亦或是将 RAG 中的文本转化为语义嵌入(Embeddings),其本质都是将多模态数据映射到高维向量空间,并通过计算相似度(如余弦相似度)来寻找匹配项。 - **技术演进**:从早期的局部敏感哈希(LSH)到如今的深度学习表征,向量检索已成为连接物理世界与机器理解的桥梁。 - **开发者启示**:这一统一范式意味着开发者在构建多模态 AI 应用或 RAG 系统时,可以复用相同的向量数据库和检索优化策略,极大地降低了技术栈的复杂度。

🧠 模型动态 Hacker News

OpenAI 发布多模态旗舰模型 GPT-4o

OpenAI 推出全新旗舰模型 GPT-4o,实现文本、视觉和音频的端到端原生多模态处理。该模型推理速度提升 2 倍,API 价格降低 50%,并显著增强了中文等多语言表现。其极低延迟的实时语音和强大的视觉交互能力,为开发者构建下一代实时 AI Agent 和多模态应用提供了核心基础设施。

🧠 模型动态 Hacker News

OpenAI 旗舰多模态大模型 GPT-4

GPT-4是OpenAI推出的里程碑式多模态大模型。1. 支持图像和文本输入,具备强大的多模态理解能力;2. 在专业和学术基准测试中表现出人类水平;3. 显著提升了推理、代码生成和复杂任务处理能力,为AI Agent和智能应用开发奠定了坚实基础,是开发者构建下一代AI应用的核心基石。