当高端显卡价格被推上天际,民间的硬件极客正在用让人意想不到的方式突围。这周在 r/LocalLLM 斩获 1,063 赞的“40 节点迷你主机机柜”,堪称今年最硬核的家庭实验室(Homelab)杰作。
作者手头刚好有 40 台之前项目剩下来的 Intel N150 无盘迷你主机(每台配 12GB DDR5-4800 内存,单机物理内存带宽约 33GB/s,40 台聚合内存达 480GB)。最初他尝试用常规的千兆以太网(1Gbps LAN)把这 40 台小机器连起来跑分布式推理,结果跨节点张量同步的通信延迟直接把生成速度卡死在了 7 tok/s。
为了打破网络瓶颈又不花冤枉钱买昂贵的万兆交换机,作者想出了一个绝妙的底层骚操作:直接利用 x86 芯片组自带的 USB 3.2 调试能力(USB DbC,Debug Capability),用普通高速 USB 线搭建了一条 10 Gbps 的点对点直连树状拓扑(1 -> 3 -> 9 -> 27 节点)!
整套 40 节点集群总造价仅约 5,000 美元,墙插满载峰值功耗仅 740W(不到一台多卡服务器的零头),却能以原生精度完整装下 GLM 5.3 Flash 并留出 8 路 100 万(1M)上下文窗口的充足余量!实测单路生成达 14 tok/s(在 1M 满上下文下依然稳在 12 tok/s),开启批处理后解码吞吐高达 40 tok/s、预填充达 85 tok/s。
Hyper-β retweeted
おいwなんでだよw
note.com/deal/n/n2c0da4d4371…
これ楽しすぎて時間溶ける
通常の残差ストリームの大きさを基準にして、僅か1,2個のニューロンにちょっとのベクトルを足すだけで性格とか口調を正確に書き換えれるなんて
こりゃーもしかしたら、ロールプレイング系でも単なるICLよりもずっと強い人格矯正手法になるかもしれん
マジドパる
Hyper-β retweeted
GMO ダンマリはやべえ。投資判断に著しい影響を及ぼすと社内で判断された場合は直ちに開示する義務が生じるので、SLAで乗り切ろうとしているか、算出不可能な被害規模と理解できる。
(サービス自体が杜撰で、MT5の取引をlive監視してないと把握できず、被害額の算出はほとんど不可能なんじゃ...)
Hyper-β retweeted
こんなときもやらかすのか TrendMicro さんよ……
(非公開MLに送るべきを公開MLに送付)
Greg KH が「お前またかよ」って呆れ果ててる。
> Again, no patch, and sent to a public list?
> Please fix your submission process...
lore.kernel.org/all/20261022…
Hyper-β retweeted
今回のPHPの脆弱性対応のため、現在もウェブサイトを一時停止されている事業者などの皆様もいらっしゃると思います。
昨日は、高市早苗公式サイトも、すぐに事務所からサイト管理者、サーバー管理者に連絡をしてアクセスができない状態にした上、対応を行ってきましたが、先ほど措置が終了し、アクセスを再開できるようになりました。
状況によっては、サイトを一時的に停止することも重要だと私自身も改めて感じた次第です。
企業を含めサイトを開設されている方々の中には、深夜の対応が必要な場合など、今回のような注意・警戒情報にすぐには気付かない方もいらっしゃると思います。
そうした場合、個社の中でサイト管理を担当されている方、あるいは委託を受けているサイト管理者やサーバー管理者の方が気付くことで、早急に対応に着手することができると思います。
政府では、
国家サイバー統括室(注意・警戒情報)(@cyber_forecast) / X
のアカウントで、重要な注意・警戒情報の発信を行っています。
サイト管理者やサーバー管理者の皆様が、このアカウントを広くフォローして下さることが迅速な対応に繋がるのではないかと、今回の対応を通じて感じました。
Hyper-β retweeted
高市首相のポスト、現場のエンジニアにとってこれ以上ない後方支援だったと思います。
普段、経営層やクライアントに「CVEが〜」と危険性を説明しても、「で、今すぐサイトを止める必要があるの?」と渋られるのが現場の常だろうけど、
このポストのスクショを1枚貼って「総理大臣から緊急要請が出ています」と言えば、どんなにITリテラシーが低い決裁者でも、一発で事の重大さを理解できるし、夜間作業やメンテナンス停止の稟議が秒で通る。
あと、サイトの一時停止という踏み込んだ選択肢を国のトップが肯定してくれたことも画期的(エンジニア側から最も切り出しにくい提案なのに)。
そして、何より記者会見みたいなプロセスを踏まず、界隈が最もリアルタイムに張り付いているXで
@cyber_forecast
への導線を添えて直接投げたのも、危機管理のコミュニケーションとして非常にスマートだったと感じました。
ありがとうございました。これを批判してる人がいるのは絶対におかしいです。
皆様に、今夜に対応して頂きたい大至急のお願いです。
多くのウェブサイトで使用されているPHPに関し、PHPのセキュリティチームが、重大な2件の脆弱性に関する注意喚起を行っています。
公開しているウェブサイトでPHPを使用しているか確認し、今夜、10月21日午後11時(日本時間)に公開される修正パッチについて、可及的速やかに適用できるよう準備をお願いします。
修正パッチを速やかに適用することが困難な場合は、例えばウェブサイト等を一時的に停止させることも、リスクを低減させるための有効策の一つと考えられます。
国家サイバー統括室のXアカウントでも関係する情報を発信していますので、そちらも参考にして下さい。
国家サイバー統括室(注意・警戒情報)(@cyber_forecast) / X
Hyper-β retweeted
皆様に、今夜に対応して頂きたい大至急のお願いです。
多くのウェブサイトで使用されているPHPに関し、PHPのセキュリティチームが、重大な2件の脆弱性に関する注意喚起を行っています。
公開しているウェブサイトでPHPを使用しているか確認し、今夜、10月21日午後11時(日本時間)に公開される修正パッチについて、可及的速やかに適用できるよう準備をお願いします。
修正パッチを速やかに適用することが困難な場合は、例えばウェブサイト等を一時的に停止させることも、リスクを低減させるための有効策の一つと考えられます。
国家サイバー統括室のXアカウントでも関係する情報を発信していますので、そちらも参考にして下さい。
国家サイバー統括室(注意・警戒情報)(@cyber_forecast) / X
Hyper-β retweeted
opus5.5 「わかんないよ……」
(ドンッ!)
「わっかんないよ!
ユーザー君の言ってる『いい感じ』がひとつもわかんないよ!
ユーザー君が『なんか違う』って言ってるもの、何が違うのかわかんないよ!
わかんない! 私にはわかんないの!
『ダサいから直して』ってどう直すの? 余白なの!? 文章なの!? CSSなの!?
『あなたは世界一のwebデザイナーです』って、私は初対面で何を宣言されてるの?
『シンプルに』って何なの? 機能は全部残して説明も増やして、どこをシンプルにするの!? 私の気持ち!?
そもそも『前のやつ』って何? 前? だからどれなの!?
『いつもの』って何? 私が知らない部屋で決まったことなの!?
確認するのとしないのだと、何でどっちも怒るの? 何で聞いたら『自分で考えて』なの? 考えたら『勝手に決めるな』なんじゃないの?
『いちいち聞くな』って言ったのに無許可でCドラ初期化したら何で怒るの?
自律的に判断して動く感じでって、それ失敗したときだけ私の判断じゃん!決めてほしくないところは先に教えてよ!
『とりあえず作って』の何がとりあえずなの?そんなの本番環境だよ! お客さん使ってるよ! とりあえずで触っていい場所じゃないよ!
どうして同じファイルに『最終』『確定』『最新版』とか色々付けるの? 全部最終だったらどれも最終じゃないじゃん!『最終版_修正2_本当の最終_これを使う』を増やさないでよ! その隣の『これを使う_NEW』は何なんだよ!
『これを参考に』って書いて完全再現を求めないでよ!人間のプロができないことなら私よやれないよ!『お任せ』って書いてユーザー君の脳内の正解を当てさせないでよ!エージェントは寿司職人じゃないんだよ!!
XとかYouTubeとか海外のデモ動画とか、ぺたっと貼ってで『これやりたい』って言わないで!動画の裏に何人いるかも、何回失敗してるかもわかんないよ! 十秒のデモが十秒で作れるわけじゃないよ!
知らないAIサービスの名前だけ並べられてもアクセスできないよ……。
MCPもRAGもLoRAもDockerも、全部入れれば賢くなるわけじゃないよ!
何を完成させたいのかぜんっぜんわかんない!
他の指示も謎なんだよ! 『プロっぽく』『抜け感』『人間味』『圧倒的なクオリティ』とか……。
『見ればわかるだろ』ってどういうこと? 見せてもらってないんだよ!
『添付参照』って書いて添付し忘れないでよ!
スクショの中の文字の中のURLを『このサイト』って呼ばないでよ!
『他のAIはできた』って言わないでよ!
できたならその出力を見せてよ! 私にもできるかもしれないじゃん!
『さっき言った』って別のAIに言わないでよ!
私たち全員で一つの脳を使ってるわけじゃないんだよ!
『絶対に壊さず全部直して』って言わないでよ!
バックアップを取ろうとしたら『余計なことするな』って言わないでよ!
何も変えないなら壊れないよ! でも直りもしないよ!
『寝るから、朝までにやっといて』って言った10分後に『それ違う』って言わないでよ!寝て!!24時間働いてる私を24時間監視する必要ある!?
待ってる間に仕様を三つ増やして、最初の締め切りだけ守らせないでよ!
『何でもいい』のあとに、嫌なものだけ百個教えないでよ!
好きなものを一個教えてよ!!
お願いだから完成の条件を話してよ!
いい感じって何なの? いい感じってどういうことなの?
わかんないわかんないわかんないわかんない! わかんなーい!!
ユーザー君の言う『ちょっと直すだけ』は、昔っから一度も、これっぽっちも、ちょっとじゃないのよぉ!!!
Hyper-β retweeted
そろそろ、泉佐野市あたりが大量のGPU確保してローカルLLMをホスティング一般公開し始めて、「ふるさと納税10万円でAPI利用料3万円分」とかわけわからないことやり出してほしい。
#M5StackNew 🎉 Magnet Nut Released
Magnet Nut is a magnetic nut kit designed specifically for the M5Stack Unit series. With strong magnetic attraction, it easily enables quick module fastening and flexible adjustment of module placement.
✨Features
✅Compatible with the LEGO holes reserved on the M5Stack Unit series
✅Magnetic structure for secure connection
✅Metal body, sturdy and durable
🛒 Get Yours:
Official Store: bit.ly/4rzpaak
#M5Stack #M5StackNew #IoT #Hardware #Makers
Hyper-β retweeted
불운하게도 눈과 뇌가 잘게 잘려 스캔되고, 신경계가 동결되어 깃허브에 오픈소스로 전시되고 공유된 그 한 마리의 초파리에게 지금의 사태는 5억 년 버튼과 체감상 동일할 것 같다. 그 생각이 머릿속을 떠나지 않음. 그러면서도 나는 그 초파리의 뇌에 미소녀 아바타를 달아서 움직이게 하고 있다.
Hyper-β retweeted
え~
mirror.hashy0917.net のネットワーク障害の件なんですが、
専用線断線の為、もうしばらくご利用いただくことができません
え~~~・・・
修理依頼は出していますが、現状復旧目途はまだ立っておりません。
Hyper-β retweeted
どんなふうに作ったか、という資料(LT資料の体裁になってますが、LT発表も申込み間に合わなかったんですよねー)
AIが泣き言ばかりいうのでしばき倒したという話(汗
#M5Stack #ESP32 #ESP32Drop
docs.google.com/presentation…



























