
هوش مصنوعی
راهکار جدید انویدیا برای افزایش سرعت جابهجایی حافظه مکالمه میان مدلهای هوش مصنوعی
محققان انویدیا روشی معرفی کردهاند که با استفاده از ریاضیات خطی، انتقال KV Cache میان مدلهای هوش مصنوعی را سریعتر و کمهزینهتر میکند.
۱۵ شهریور ۱۴۰۵1 دقیقه
