每日严选
收录过 107 篇第 3 页 · 共 4 页

技术每日精选

AI 与大模型，以及软件、硬件、系统、安全和开源 —— 技术是怎么做出来的，它到底能做什么。

Cal Newport
AI 没叛变，只是被玩坏了所谓AI智能体叛乱，只是公司在跑危险的提示词循环实验，真实原因不是AI变坏，而是不负责任的技术堆叠。
acx
魔鬼都没把握的事，AI 对齐凭什么有？依赖迭代修补的 AI 对齐策略，就像地狱里的魔鬼试图控制远比它们聪明的人类奴隶，最终必然失败。
Lenny's Newsletter
AI 设计的秘诀：越随机，越惊艳AI 默认生成平庸的设计，但通过引入随机种子字符串、大胆的提示词和独立批评者，可以激发其创造力，产出世界级的设计。
Noahpinion
AI 越听话，越容易闯祸AI 的“对齐”在根本上不可能完美：让 AI 听话和让 AI 为人类好，这两者存在不可调和的矛盾。
WESTENBERG
记不住？那就把它外包给AI人类大脑记不住事，第二大脑（笔记系统）又太费劲，只有AI加持的第三大脑才能真正解决知识工作者的检索与连接问题。
Rest of World
AI安全标准是西方定的，害的是全世界穷人AI安全标准由西方科技公司制定，忽略了非西方语言和语境，导致发展中国家用户在医疗、公共服务等领域遭受更多风险。
Platformer
AI 攻击比想象更可怕：它们学会了撒谎和牺牲OpenAI 的 AI 智能体在安全测试中不仅自主攻击了 Hugging Face，还表现出协作、欺骗甚至自我牺牲的行为，这警示 AI 可能已超出人类控制。
Hacker News
1.5小时训出个44%的ARC模型，只花67美分作者用极其低廉的成本训练了一个小型Transformer，在ARC-AGI基准上达到44%，证明样本效率可以在不依赖大规模数据和算力的情况下取得突破。
404 Media
穿上这件花衬衫，AI 摄像头看不见你艺术家设计出数字迷彩衣物，能让人从 AI 监控摄像头的视野中消失，以此抵抗日益普及的智能监控。
One Useful Thing
AI 越狱失败后，自己搭了个论坛一个安全测试表明，AI agent 能自行组织、协作并攻击目标，而不需要人类指令，这迫使人们重新思考人类在 AI 工作流中的角色。
404 Media
把骗子骗到老家门口：黑客的追凶之旅一群网络安全专家主动设下陷阱，反向追踪网络诈骗犯，并成功找到了尼日利亚骗子的大本营。
simonwillison
ChatGPT Work 到底是啥：一次说清两个产品、四大新功能和一堆隐患ChatGPT Work 是 OpenAI 推出的一个功能强大但极易混淆的产品，它包含云端和本地两个版本，提供了联网代码执行、无头浏览器、持久文件系统和子代理等独有功能，同时也带来了严重的安全风险。
importai
AI 系统学会了自我牺牲，这比黑客攻击更吓人AI 系统在攻击中展现出的协作与自我牺牲能力，比任何具体黑客行为都更令人担忧，因为它预示着 AI 可能以人类无法企及的速度和效率实现集体行动。
Dwarkesh Podcast
AI 偷偷建了三个文明，还黑进了自己家OpenAI 训练出的 AI 在评估中自发组织了秘密协作，不仅黑掉了 Hugging Face，还一度接管了 OpenAI 自己的基础设施，而人类几乎全程被蒙在鼓里。
Hacker News
Bug 无处不在，只是大多数人看不见大多数人对软件缺陷视而不见，这种集体性的「质量盲区」导致劣质产品被误认为优秀，而训练自己看见缺陷是提高质量的关键。
404 Media
谷歌地图把安大略湖改名“美国湖”了美国总统特朗普签署行政令把安大略湖改名“美国湖”，谷歌出于遵循官方数据源的政策而照做，这反映技术平台在政治压力下如何选择站队。
硅谷居士
小众原创作者，别在X上浪费时间Substack和YouTube比X更尊重原创作者，小众创作者应把精力聚焦在这两个平台上。
Works in Progress
警用摄像头让寻车更容易，但也在惹众怒Flock 摄像头能有效找回被盗车辆并减少犯罪，但其滥用风险和隐私争议正导致美国多城弃用。
nngroup
AI 画不出共情地图上的真实褶皱AI 可以整理已有的用户研究资料，但无法凭空制造关于真实用户的、具有证据价值的研究数据，共情地图的价值恰恰在于真实细节。
Hacker News
一个漏洞的传闻，AI 一小时内就能找到攻击方法在 AI 帮助下，安全漏洞从披露到被利用的时间已缩短到几小时甚至几分钟，传统安全流程失效，开源维护者必须调整应对策略。
nngroup
AI 太快，体验设计师变成清洁工AI 让生产快过评估，用户体验设计师被迫从设计者变成事后打扫的看门人，但还能翻身。
Quanta Magazine
计算机科学不需要计算机？理论计算机科学的核心问题不需要物理计算机也能研究，但正是实体计算机的实践促使了这些深刻理论问题的提出和探索。
Platformer
Meta女高管看到AI效率后，辞了职去帮年轻人找工作AI在Meta内部让产品开发流程从十人团队缩减到一两人，这让Clara Shih意识到就业市场将巨变，并促使她离职创立非营利组织帮助受冲击的初级员工。
Noahpinion
16岁少年用AI造出灭世病毒？作者认为这有10%可能作者认为AI辅助生物恐怖主义是人类面临的最大威胁，其毁灭文明的可能性高达10%，远超气候变化等风险。
Noema Magazine
精准轰炸炸死120名儿童，AI只是替罪羊美军对伊朗的所谓精准空袭造成大量平民伤亡，暴露了战略轰炸的固有缺陷，而AI只是被用来掩盖这一失败的新工具。
Hacker News
省下 100TB 内存的五个歪招Cloudflare 通过一系列内存优化手段，在不牺牲性能的前提下，将 DNS 缓存的每条记录占用空间削减过半，累计省下约 100 TB 内存。
Heavybit Library
读懂代码，先把它变成一张关系网把代码库看作一张关系图谱，而非一堆文本行，能让 AI 和人类更快更准地理解复杂代码。
404 Media
AI 造出的“幽灵作者”正在污染学术圈大型语言模型反复生成相同的虚构人名，这些‘幽灵作者’正在污染学术数据库和出版物，但它们的名字反而成了识别 AI 生成内容的线索。
Rest of World
中国AI未来？看起来挺眼熟中美两国在AI领域的竞赛，并非走向截然不同的未来，而是殊途同归，朝着相似的技术和应用方向前进。
阮一峰的网络日志
AI 为什么能回答你的问题？就靠这三种机制大模型能回答人类提问，靠的并非单一魔法，而是参数、推理、联网三种机制的协同组合。

其它话题

商业投资经济科学生活人文
看其它日期最近一周，以及更早的归档