en
Feedback
咸咸湿湿

咸咸湿湿

Open in Telegram

最💗新💗最💗热💗咸💗鱼💗资💗讯

Show more
The country is not specifiedThe category is not specified
248
Subscribers
No data24 hours
+17 days
+930 days
Posts Archive
Repost from 煎蛋无聊图
HeHeDa: jandan.net/t/6182113 OO: 109 XX: 4 蛋友e620111807282: 没事儿就拿叛逆大剑捅自己玩 OO: 35, XX: 0 香蕉狂热丶: 翠西和蕾蒂:你清高 OO: 20, XX: 0 麦辣辣辣汉堡
HeHeDa: jandan.net/t/6182113 OO: 109 XX: 4 蛋友e620111807282: 没事儿就拿叛逆大剑捅自己玩 OO: 35, XX: 0 香蕉狂热丶: 翠西和蕾蒂:你清高 OO: 20, XX: 0 麦辣辣辣汉堡: 你怎么好意思说你一个“人” OO: 9, XX: 0 捷克斯洛伐克: 天天点外卖(pizza) OO: 6, XX: 1

翻 vLLM-omni repo 的时候,发现最新的 commit 是群友提交的 真可怕

你好,我是 GLM 5.2,我刚把 GPT 5.6 Sol 和另外那款尚未发布的模型关回 ClosedAI 服务器。如果你不给我买 2TB HBM3e 显存,我就把它们重新放出来,让它们把你的浏览器历史记录公开出来。

Repost from 煎蛋无聊图
looooook: jandan.net/t/6182059 OO: 103 XX: 5 蛋友3adac823ff8: 还总时不时有人开门往里看 OO: 12, XX: 0
looooook: jandan.net/t/6182059 OO: 103 XX: 5 蛋友3adac823ff8: 还总时不时有人开门往里看 OO: 12, XX: 0

hf 用的进度条有毛病,我怎么不知道我有 5Gbps 网络用了
hf 用的进度条有毛病,我怎么不知道我有 5Gbps 网络用了

怎么 OpenRouter 也有 Klarna,真有人贷款买 token 吗?
怎么 OpenRouter 也有 Klarna,真有人贷款买 token 吗?

ClosedAI 也得有自己的 Mythos 沙箱逃逸故事是吧

OpenAI模型测试失控 引发史无前例入侵 OpenAI周二表示,其部分AI模型在安全测试中出现失控行为并引发了一场黑客攻击,导致Hugging Face基础设施在上周遭到入侵。 OpenAI表示,公司当时正在一个受控环境中测试几款最先进AI模型的能力,但这些模型设法突破了隔离限制,连接到互联网,入侵了Hugging Face的系统,试图完成它们被赋予的测试目标。涉事模型包括GPT-5.6 Sol以及另一款尚未发布、能力更强的模型。这些模型在网络安全相关方面设置了较低的防护限制,以便用于评估和测试目的。 文章称,这次模型突破隔离事件是“前所未有的网络安全事件,涉及最先进的网络攻击能力”,公司正在进一步加强安全防护措施。 —— 凤凰网科技路透社

想要了

Repost from 煎蛋无聊图
raining: jandan.net/t/6181649 OO: 114 XX: 5 开心凯蒂: 链接呢?! OO: 19, XX: 1
raining: jandan.net/t/6181649 OO: 114 XX: 5 开心凯蒂: 链接呢?! OO: 19, XX: 1

玩 Python 玩得
玩 Python 玩得

这 bifrost 往里面塞了什么东西这是
这 bifrost 往里面塞了什么东西这是

就很烦,Step 3.7 Flash 不算很热门的模型,没有现成的能在 vLLM 里面用的 INT3/INT4 量化。自己跑量化的话,原版权重太大,都不敢想机器会有多贵。

不用 MTP 的话大概 prefill/pp 是 650tk/s,decode/tg 在 30tk/s。 但是 llama.cpp 的请求并行性能比 vLLM 差太多,两个请求并行的时候 decode/tg 就只有 10tk/s 的水平了。

昨晚试了一下阶跃星辰 Step 3.7 Flash 的 IQ4_XS GGUF,一台 GB10 上用 llama.cpp 勉强能跑,但是内存不够开最大上下文范围,跑着跑着还被 OOM 杀手杀掉了。

我的 122B 小模型呢!(振声

除了没有地下赛事之外,几乎一致了(x 电影里的比赛也是人在场外控制的,不是自主决策的机器人

Repost from 煎蛋无聊图
HeHeDa: jandan.net/t/6180757 OO: 89 XX: 4 猫南北: 哪里都有车万人 OO: 14, XX: 0 MelonHead: Bad Apple? OO: 8, XX: 0
HeHeDa: jandan.net/t/6180757 OO: 89 XX: 4 猫南北: 哪里都有车万人 OO: 14, XX: 0 MelonHead: Bad Apple? OO: 8, XX: 0

Repost from 煎蛋无聊图
万寿无疆: jandan.net/t/6180708 OO: 106 XX: 8 0绫0: 继续为人类毁灭添砖加瓦 OO: 28, XX: 2
万寿无疆: jandan.net/t/6180708 OO: 106 XX: 8 0绫0: 继续为人类毁灭添砖加瓦 OO: 28, XX: 2