搜索
一直以来，在Transformer架构中，注意力（Attention）与前馈网络（Feed-Forward Network，FFN）被认为是两个功能不同且互补的模块： 前者让词元（Token）彼此交互，后者对每个词元进行非线性变换。
Karpathy在推文中估计，全球真正能直接使用最前沿内部AI系统的人可能仅有约5000人，而约60亿人几乎尚未真正接触LLM。
Hypit.ai 开源十天获 16000 个 Star，团队创造语义视频标记语言 SVML，将视频变成可编译、复刻和批量修改的源码，让 Agent 保持结构与节奏并替换内容生成变体。
一思科技旗下 AceiiLab A1 通过沿底线移动喂球、球童模式、AI 动作分析和训练数据服务提供互动陪练，首批量产机今年 7 月开始交付。
非官方 DeepSeek-Bot 基于 DeepSeek Harness 以 DSH 插件形式上线，支持多 Bot 独立角色与模型、长期记忆及主管协同，并可通过 DSH 桌面端和 Web 端安装使用。
美国个人AI助理创企Tab公开亮相约六周后估值达3亿美元，但Assistant Benchmark测试显示其预订、旅行和购物任务仍易因网站限制及支付风控失败。
腾讯AI负责人姚顺雨带领腾讯混元Hy4 Preview在Arena Alignment Index中以78.5分位列全球第5、中国第1，越权率为1.47%，虚假完成率为13.24%。
元巅科技（寂核）创始人周百祥表示，GENiEX复古对讲机掌机以AI驱动角色记忆、语音与分支剧情，采用硬件买断加角色内容及资产消费模式，不设订阅，已在Kickstarter筹得约18万美元。
据外媒报道，谷歌已在内部编码平台Jetsky测试Gemini 4下一代检查点Carbon，多名员工称其编程表现逼近Opus 5.5，递归自我提升（RSI）是取得这一进展的关键。
人大高瓴 GeWu-Lab、智源研究院与燧行 AresoX 等机构提出 ROMA，构建 ROMI-2K、ROMA Bench 及 ROMA-7B，使机器人融合视听触力主动探索物体，并在 ROMA Bench 上以 72.9% 总体任务成功率基本追平 GPT-6 Astra。