突发奇想,技术上有没有办法让多个企业共用大模型服务器,但是隐私信息不泄露?
今日看到国产大模型本地部署机器有感。
- 目前 671B 的大模型已经可以本地部署,就算没有 GPU 专门优化,高性能 CPU 跑起来似乎也能接受。
- 考虑到大模型的生产力和泛用性都很强,企业应该有大量大模型需求。
- 企业对自身数据安全有较强需求,确保本地数据不外流是基础需求。
- 本地部署虽然已经可以实现,但是可能的问题是,稍微部署几台机器可能输出性能不够用,多部署了可能用不完
- 模型本身不进行微调的话,出于通用目的使用,其实不需要有状态,理论上数据并存储的必要。
- 不知道如果企业共用模型的话,以现在的技术有没有办法确保上传的数据只用来过一遍模型,而不被第三方偷偷存下来?
缺少ROP 的 GeForce RTX 50 系列 GPU 在德国零售商处作为 B 货出售
一家德国零售商将缺少 ROP 的 NVIDIA GeForce RTX 50 系列 GPU 列为 B 货,再次引发了有关先前此型号显卡缺陷报告的问题的讨论。2 月份就有用户首次报告了该问题,它影响了多款基于 Blackwell 的 GPU,包括 RTX 5090、RTX 5080 和 RTX 5070 Ti。
实测发现这些卡的 ROP(渲染输出单元)少于标称的数量,导致某些应用程序的性能损失高达 11%。当时,NVIDIA 承认了这个问题,声称只有 0.5% 的供应受到影响,并与零售商合作为受影响的买家提供替代品。但是,并非所有有缺陷的设备都被退回给制造商。相反,一些现在被作为 B 货转售,通常表示退回或翻新的物品有轻微缺陷。
德国零售商 Alternate 上的一份此类列表显示,ZOTAC GeForce RTX 5090 SOLID OC 只有 168 个活动 ROP,而不是预期的 176 个。尽管规格有所降低,但该卡的售价为 2899 欧元,与全功能版本相同。另一个类似的 B 货列表以相同的价格出售,而第三台具有额外包装损坏的设备售价略低,为 2799 欧元。与买家可以更换这些 GPU 的初始零售期不同,B 货版本可能没有资格换货。但是,根据欧盟消费者保护法,买家仍可以在有限的时间内退货。
虽然 NVIDIA 确保没有受影响的笔记本电脑型号的GPU发货,但将台式机版本作为 B 货转售表明一些零售商选择不将它们退回给制造商。目前,还没有发现其他缺少 ROP 的 B 货 RTX 50 系列型号,但这一发展引发了人们对仍有多少此类设备在流通的疑问。
Helldivers 2 is locking out players who use older CPUs
Musk threatens to sic the government on people ‘pushing’ Tesla ‘propaganda’
[主播/UP][直播讨论]这Jjonak真的没队要了吗
SK Hynix完成NAND闪存业务并购交易 英特尔将获得19亿美元
英特尔和 SK 海力士已完成一项涉及英特尔 NAND 闪存业务的 88.5 亿美元交易,标志着 2020 年启动的两阶段交易的结束。在交易的第一阶段,SK 海力士以 66.1 亿美元收购了英特尔的 SSD 部门以及位于中国大连的 NAND 生产工厂。大连工厂后来更名为 Solidigm。
值得注意的是,这一阶段只转让了实物资产和运营设施,留下了关键的知识产权、研发基础设施和专业技术人员。第二阶段于本周二以 19 亿美元的付款完成,解决了这些剩余部分的问题。通过这笔付款,SK 海力士获得了英特尔专有 NAND 技术、研发资源以及专门用于 NAND 运营的技术人员的全部权利。
在过渡期间,英特尔保持了对这些要素的控制,这限制了 Solidigm 与英特尔 NAND 团队之间的整合。这种分离旨在管理运营风险并逐步转移能力。完成这笔交易有助于英特尔战略性地重组其投资组合,因为英特尔正将重点转向人工智能芯片开发、代工服务和下一代半导体制造等高增长领域。
19 亿美元的资金注入对英特尔代工业务来说恰逢其时,该业务每年耗资数十亿美元,可以抵消部分损失。对于 SK 海力士来说,整合英特尔的全系列 NAND 业务可增强其在全球 NAND 市场的竞争地位,使其能够获得成熟的技术和关键的行业专业知识。
这一最终确定是更广泛趋势的一部分,即公司从商品化的内存产品中撤资,专注于更先进的半导体解决方案,如人工智能芯片和其他加速器,这些解决方案的利润率更高,业务前景也更好。
[杂谈]这艾什如同美酒啊,越品越香
仿生传感器可实时监测人体新陈代谢情况
加州大学洛杉矶分校 (UCLA) 的研究人员开发出一种微型传感器,它可以比目前的方法更广泛地帮助监测代谢物(人体在代谢过程中分解食物、药物甚至自身的脂肪和肌肉时产生或使用的物质)。
TMR 传感器能够实时监测多种代谢物;光谱图像显示驱动代谢物传感反应的电极上分子(插图) 程宣兵和李宗琪/Emaminejad Lab
这项技术可以开辟检测和管理疾病和病症的新方法,跟踪患者对治疗的反应,并加速更有效药物的开发。特别有趣的是传感器如何跟踪自然生化过程,例如分子在我们体内转化和相互作用的方式。
加州大学洛杉矶分校的加利福尼亚纳米系统研究所的研究团队将其发明称为“串联代谢反应传感器”,简称 TMR 传感器。它们的工作原理类似于微型化学实验室,用于监测代谢物。这些传感器安装在由极小的单壁碳纳米管制成的微型电极上。科学家们将酶和辅助分子(称为辅因子)放在这些电极上,这些辅助分子有助于化学反应。
当特定代谢物(它们想要检测的分子)靠近传感器时,酶会引起化学反应。该反应对目标代谢物非常特定。有时,传感器可以通过此反应直接检测代谢物。其他时候,如果代谢物无法直接检测到,酶会先将其转化为另一种可检测到的分子。这种转化可以通过一系列步骤进行,就像体内的自然代谢途径一样。这种运行多个反应的能力就是它们被称为“串联代谢反应传感器”的原因。
这些反应的一个关键部分是电子交换。当酶作用于代谢物时,它们会导致电子移动。这些电子运动在碳纳米管表面产生电流。然后传感器测量该电流。电流量告诉科学家有多少代谢物存在。因此,电流越大意味着代谢物越多,电流越低意味着代谢物越少。
本质上,TMR 传感器利用自然界自身的化学反应(发生在微小的电表面上),将代谢物的存在转化为可测量的电信号。
通过转换步骤,这些传感器可以检测出人体产生的三分之二以上的不同代谢物。这可以让我们详细了解患者的状况以及他们对治疗的反应。
研究人员指出,这项技术可以帮助及早发现心脏病,并根据患者的代谢情况制定个性化治疗方案。它可以通过追踪运动员在压力下身体的能量代谢情况来优化运动员的身体素质。TMR 传感器还可以揭示正在研发的药物如何影响代谢途径,并指出优化其效果的方法。
上个月发表在《美国国家科学院院刊》上的这篇论文的资深作者萨姆·埃马明贾德 (Sam Emaminejad)表示,这可以帮助我们理解肠道和大脑之间复杂而神秘的联系。
“了解肠道和大脑如何相互影响的一个主要挑战是捕捉随时间的变化,”科学家解释道。“一种持续跟踪代谢物的工具,而不是依赖单一的实验室测量,可以帮助揭示这种双向交流。我们终于有能力测试缺乏关键数据的重要假设——帮助我们更好地了解肠道活动如何影响整体健康,从引发炎症、影响心理健康到塑造慢性疾病进展。”