Mac StudioにおけるMLXとRDMAを活用した大規模LLMローカル分散推論の探求

MLXとRDMAによる大規模LLM分散推論

#MLX #LLM推論 #AppleSilicon #RDMA #分散コンピューティング