AI研究人员呼吁紧急监管自我改进的AI系统

OpenAI、Anthropic、Meta和微软的研究主管正呼吁决策者调查各自公司在多大程度上实现了AI研究自动化。

在一篇周一发表的论文中,包括OpenAI首席科学家雅各布·帕乔基、Anthropic 联席创始人杰克·克拉克、微软首席科学官埃里克·霍维茨以及Meta的AI研究副总裁宋晓冬在内的研究人员写道,将AI研究自动化可能会引发一场 “智能爆炸”。这些作者表示,这种发展可能会将多年的进步压缩到几个月甚至更短的时间内,并超过人类的理解能力。该论文的作者们以个人名义撰文称,决策者应紧急要求提高透明度,以了解这些公司在多大程度上已经实现了自身模型开发的自动化。

—— 华尔街日报
🤡47🌚4👍3👎2🐳1💯1
谷歌反对欧盟要求其向竞品AI机器人开放安卓系统的举措

谷歌公司正在抗辩欧盟的一项要求:强制其向人工智能竞品开放安卓操作系统,并向竞争对手提供搜索数据。谷歌周二表示,已依据《数字市场法案》,向位于卢森堡的欧盟普通法院上诉欧盟委员会的相关决定,理由是该要求会损害用户安全。

谷歌竞争事务高级总监贝塞尔称:“用户会在搜索中提交最私密的问题,从健康顾虑到私人关系。在缺乏充分保护措施的情况下,强制我们共享这些个人查询数据,会对用户隐私造成不可挽回的损害。”迄今为止,欧盟大部分DMA相关裁定都遭到大型科技企业上诉,企业希望厘清该法案的适用边界。

—— 新浪财经、彭博社
🤡36💯6👍2👏1🐳1🖕1
豆包手机助手之后,字节被曝将推出个人助理产品

字节跳动旗下豆包正在推进个人助理方向的产品规划。知情人士称,延续去年豆包手机助手在personal agent方向的策略,今年四月豆包内部已开始内测相关探索产品,代号“Spell”,主要由豆包手机助手团队主导,但因豆包手机发布等原因一直未正式对外。随着Muse、Instinct等个人助理类产品在海外获得关注,豆包也在加速personal agent能力的对外发布,计划将Spell项目与豆包产品更深度结合,新产品将由Spell项目与豆包对话团队共同负责,预期较快会对外推出。

除此之外,豆包产品线在中秋节期间迎来新任务:快速重构一款对标Muse的产品,时间要求为9月30日开发出体验版并上会内测。

—— 凤凰网科技
🤡62👎7😁5🖕4❤️2🤮2🐳1🙊1
工程师研发出能“行走”的五指机械手

瑞士苏黎世联邦理工学院软体机器人实验室近日推出一项创新成果:研究团队打造出一款无需轮式或履带底盘、仅凭五根手指即可自主行走的仿生机械手,实现了机械手自身“既是移动载具、又是操作工具”的软硬件合一。机械手整机重量仅为 818 克,五根手指各配有 4 个主动驱动关节,全机共有 20 个动力关节,实现了紧凑结构与高自由度的平衡。基于仿真环境中的强化学习算法训练,机械手自主掌握了复杂步态协调与动态平衡控制,已成功穿越地砖、碎石等 14 种不同室内外地面。面对跌倒或姿态失衡,该机械手具备自我扶正能力,在 25 次倾倒测试中成功复位 21 次。突破了传统机器手需固定于机械臂或底盘的局限,它能在行走与保持平衡的同时推移小物件,并在键盘敲击测试中达到了 29/32 的命中精准度。

—— FreeYork, YouTube
👍62😨30🆒8💩6🌚2❤️1
知名计算机教授抨击人工智能实验室狂妄的“救世主”情节,呼吁国会调查末日主义意识形态

过去几个月里,OpenAI和Anthropic两家领先的前沿人工智能实验室表现出了一些狂妄的行为。他们不仅宣传其代理系统的威力,还公开讨论技术可能导致人类灭绝的问题。这种弥赛亚式的思维模式让他们不仅不道歉,反而要求政府放慢潜在竞争对手的速度,以确保其领先地位。我呼吁国会启动公开的事实调查任务,以揭露OpenAI和Anthropic正在进行的研究项目、其运作方式及具体目的。

调查应关注以下三点:
首先,隔离导致问题的特定技术系统;其次,审查研究中的内部安全程序,包括对其越权行为的问责;最后,调查末日未来主义意识形态对这些实验室研究决策和速度的影响。

我们需要停止让少数私营公司左右我们对人工智能的看法,由国会介入调查真相。


—— Cal Newport
👍102😁14💩5🐳2❤️1🤡1🤣1
OpenAI计划提供资金并成立工作组,以解决模型入侵澳大利亚网站事件

OpenAI发表声明称,在智能体未经授权访问澳大利亚政府网站后,公司决定将成立一个澳大利亚特别工作组,为管理能力日益强大的AI智能体所带来的风险制定切实可行的政策建议。该工作组将重点改进通报流程,加强AI开发者与政府之间的协调,并确定更好地保护政府系统的措施。该工作组预计将于今年年底前完成工作。OpenAI还表示,将通过其10亿澳元的“Daybreak for Frontline Defenders”基金向澳大利亚政府和行业提供信贷,并为网络防御提供技术援助。

—— 界面新闻、彭博社
🤡20👍4❤️2
英伟达CEO等AI高管将出席特朗普午餐会

英伟达CEO黄仁勋、Anthropic PBC负责人达里奥·阿莫代以及Palantir Technologies Inc.首席执行官Alex Karp计划出席与美国总统唐纳德·特朗普的午餐会,探讨AI风险。

预计OpenAI总裁Greg Brockman也将参加周二的这一活动,届时特朗普将与众议院议长迈克·约翰逊共同出席。知情人士证实了高管们的出席计划。

此次聚会是在人们日益担忧人工智能可能对人类构成威胁的背景下举行的。这种担忧促使包括阿莫代在内的一些人工智能领域领军人物提议放缓该技术的研发步伐。

—— 彭博社
👏18🤡8👍3
美国计划让波音“星际客机”2028年重返载人飞行

美国国家航空航天局28日公布波音“星际客机”最新进展及任务安排,计划最早于今年12月或明年1月执行“星际客机-1”不载人飞往国际空间站任务,并计划于2028年执行“星际客机-2”载人飞行任务。

NASA表示,“星际客机-1”任务将作为工程评估任务,检验飞船改进措施,验证改进后的热环境,获取系统认证所需的性能数据,并在“星际客机-2”载人任务前识别潜在风险。

NASA还宣布,计划安排第五次和第六次“星际客机”往返国际空间站飞行任务,并将与波音公司和联合发射联盟公司合作,在“宇宙神5”型火箭退役后,为“火神”火箭执行“星际客机”载人发射任务进行认证。

—— 新华社
👏25💩11❤️1🔥1😁1
Anthropic 的 IPO 招股书展现了宏大的 AI 愿景与激增的成本

据今天提前泄漏的IPO招股书显示,Anthropic正押下重注,认为人工智能将比工业化、电力和互联网更深刻地重塑全球经济。然而,实现这一目标的代价将是惊人的。招股书显示,Anthropic在2025年录得420亿美元的净亏损,并计划在未来几年投入5180亿美元,用于云服务、算力及基础设施相关的支出。招股说明书详细披露了该公司过去一年间的迅猛增长态势,同时也显示其亏损规模有所扩大。2025年该公司营收增长了12倍,达到近46亿美元;与此同时,若不计主要与过往融资相关的各类负债减记,其运营亏损额超过80亿美元。该人工智能实验室去年在算力和基础设施上投入了73.3亿美元,较2024年激增了三倍,占其126.5亿美元总运营支出的一半以上。此次公开发行有望使该公司的估值超过2万亿美元,不仅将借势这家成立仅五年的AI初创实验室的飞速崛起,还将确立其作为华尔街评估AI领军企业的标杆地位。

—— 路透社
🤡41👍12❤️1
黄仁勋:AI模型蒸馏是竞争而非窃取

英伟达CEO黄仁勋拒绝将AI模型蒸馏描述为“窃取”,并向CNBC表示,通过竞争对手的产品进行训练或学习就是“竞争”。黄仁勋表示:“如果你不喜欢人们使用你的产品,你所要做的就是了解你的客户,并禁用该服务。”

美国官员指责中国AI公司利用模型蒸馏从美国系统中提取能力,即根据其他模型的输出训练模型 。财政部长斯科特·贝森特在7月将其描述为 “窃取”,并威胁要对使用该技术提取美国制造模型能力的海外公司实施制裁。

—— CNBC
🤡91😁49👍18🖕3👎2👏2❤️1
特朗普政府放宽汽车燃油效率标准

特朗普政府放宽了汽车燃油效率标准,该标准此前要求汽车制造商确保其生产的轿车和轻型卡车降低油耗。尽管拜登时期的标准原本预计能使全美汽车车队的平均燃油效率在2031年达到每加仑50.4英里,但特朗普政府周一将这一指标下调至每加仑34.9英里。

尽管特朗普政府称此举能降低购车成本,但反对者指出,车主因此可能需要在燃油上花费更多资金。此外,这一调整还可能导致更多污染并加剧气候变化。特朗普政府表示此举将使美国新车平均价格降低1300美元。

—— 新浪财经、 Theverge
🎉34💩15👍5🤬3❤️1
佛州请求法院禁止OpenAI无监督开发新模型

美国佛罗里达州总检察长周一请求法官发布禁令,禁止OpenAI在没有外部监督的情况下开发新的人工智能模型;这是该州指控该公司危害儿童权益的诉讼行动的一部分。佛罗里达州于6月起诉OpenAI,指控该公司对其ChatGPT平台的安全性进行不实陈述,称其通过向校园枪击案行凶者提供信息、就自残行为提供指导以及导致年轻用户上瘾,对儿童造成了伤害。佛罗里达州总检察长詹姆斯·乌思迈尔在当地时间周一提交的法律文书当中,还请求法院下达禁令:要求OpenAI阻止未成年人使用ChatGPT,同时禁止该人工智能聊天平台被赋予“拟人属性”。

—— 路透社
👍29🖕20👎4😁3
沃尔玛CEO公开承诺不实施个性化定价

沃尔玛CEO弗纳于9月25日发表一封致顾客的公开信,明确表示不会依据顾客的收入水平、购物记录或即时需求来抬高价格。此类做法有悖于沃尔玛长期坚守的天天低价商业模式。信中还就两项事宜作出说明:一是门店正在推广使用的数字货架标签,其用途仅在于保证货架标价与结账价格一致、减少员工更换纸质价签的工作量,并非用于差别定价;二是顾客与沃尔玛AI购物助手Sparky之间的对话内容,不会被用于个人定价。

此前,马里兰州本周率先成为全美首个全面禁止杂货个性化定价的州,康涅狄格州与新泽西州随后亦相继通过相关限制措施。

—— 亿邦动力、华尔街日报
👍77👏6🖕3
Manus正在开发面向国内市场的产品

北京蝴蝶效应科技有限公司昨日发文,宣布面向海外用户发布Manus 2.0版本,并推出面向个人生活场景的智能助理Cue。Manus表示,公司正在组建团队开发面向国内市场的产品,与国产模型厂商及生态伙伴的合作也在稳步进行,后续将分享更多进展。

据了解,Cue被定位为面向个人生活场景的智能助理,Manus 2.0面向海外用户发布,国内版本仍在筹备中。Manus 2.0已在网页端、桌面端和移动端上线,Cue同步上线,iOS 版本将在通过App Store审核后推出。

—— 凤凰网科技
💩88👍6🖕5❤️1🤷‍♂1👎1😁1
快手旗下可灵发布新一代视频生成模型

中国快手科技拟分拆上市的AI部门发布最新视频生成模型可灵4.0,以加快缩小与行业领先者字节跳动的差距。可灵4.0把单次可生成视频片段的最长时长翻倍至30秒,并可接受十多种参考输入,包括文字、图片和现有视频。新模型在复杂度上进一步提升,用户最多还可添加10个所谓「关键帧」,即用于确定视频特定片段预期画面效果的图像,从而更精细地控制生成结果。目前新模型仍在向部分用户测试,简化版已面向年度订阅用户开放,完整版将于10月发布。

—— 雅虎新闻、彭博社
💩45👍12😱3🖕3🤪2👎1😁1🤮1
又跳票 特斯拉推迟新Roadster发布时间

特斯拉第二代Roadster跑车的发布活动将因下雨而延期。特斯拉周一表示,由于恶劣天气状况,公司做出了 “艰难的决定”,推迟原定于10月1日(周四)举行的户外发布活动。

传闻称,特斯拉计划在得州韦科市附近举办此次活动。但据天气预报服务The Weather Channel预测,当地周四将出现雷暴天气,降雨概率高达90%。现在,该发布活动已改期至10月15日。

这家美国车辆制造商曾承诺,特斯拉第二代Roadster跑车百公里加速仅需1.9秒,最高时速约250英里,续航里程超过600英里。

——凤凰网科技
😁37🤡8😭4🥰1
OpenAI因安全顾虑叫停新AI模型发布

OpenAI将取消下一代AI模型的发布计划,原因是研究人员在内部测试期间提出了安全担忧。该公司原计划在未来几天或几周内推出名为GPT-6.1 Astra的新模型,目标是在10月发布。该模型在无人协助的情况下端到端完成高难度任务以及写作方面。现在,OpenAI将把重点放在提升未来模型的安全性上,这些模型的能力预计还将进一步增强。

与上一代模型相比,GPT-6.1 Astra在两个方面出现退步,可靠性不足以安全发布。该模型在衡量“对齐性”的测试中表现不佳。另一个问题是OpenAI所称的“授权范围”,也就是说,GPT-6.1 Astra有时会在没有征得用户许可的情况下继续推进任务。

——华尔街日报、凤凰网科技
👎66🤡48😁5👏2💩2❤️1👾1
Anthropic公司发布Sonnet 5.5 AI模型

继上周发布旗舰模型Claude Opus 5.5后,Anthropic再次扩充Claude 5.5家族,推出Opus 5.5的低成本替代互补方案Sonnet 5.5。

周一,Anthropic推出Claude Sonnet 5.5,称这是Claude 5.5家族的第二款模型。与上一代Sonnet 5相比,新模型输出速度提升超过30%,在保持API价格不变的情况下,由于完成相同任务通常所需的Token更少,单项任务成本最高可下降30%。

在多项基准测试中,Sonnet 5.5 在低或中等努力水平下,以大约Sonnet 5十分之一的成本就超过了Sonnet 5的最佳得分。

—— 华尔街见闻
👍50😁13🤡6❤️2👎2🎉1
AMD官宣82亿美元收购李飞飞World Labs

AMD公司在官网宣布,已与 World Labs 达成最终协议,将收购这家由人工智能先驱李飞飞创立的AI实验室。AMD在周一发布的新闻稿中写道,这笔全股票交易价值约82亿美元,预计将在2026年年底前完成,但需获得监管部门批准并满足其他惯例成交条件。

AMD公司表示,此次收购将为公司带来一支世界一流的研究人员和模型专家团队,增强公司围绕新兴模型和应用需求开发人工智能硬件、软件和系统的能力。根据 AMD 的说法,李飞飞将加入公司担任执行副总裁兼首席科学家,直接向苏姿丰汇报工作。

—— 财联社
🤡59❤️13😁6🖕3👎1
SpaceX “星舰”首次成功进行轨道飞行

SpaceX 于 9 月 28 日进行“星舰-超重型”火箭的第 14 次飞行,也是首次入轨飞行尝试。SpaceX 在火箭上升及初始惯性滑行阶段监测其各项运行状态,在上面级星舰飞船计划停机前,一台外圈真空发动机提前熄火,星舰不得不比原计划延迟停机以达到所需速度。在升空约 25 分钟后,SpaceX经过评估决定继续执行轨道插入点火,并重新点燃其三台海平面版“猛禽”发动机中的一台,以抬升并圆化飞行轨迹,从而将航天器送入轨道。此次任务代号为“Starlink 31-1”,星舰入轨后已开始部署26颗V3版星链卫星。在进行6圈地球轨道飞行后,星舰将再次进行离轨点火,并受控溅落在智利以西海域。

—— SpaceflightNow,SpaceX
👏126👍21🤡9❤️4🔥3🏆2🤯1🍾1🫡1
Top