АмСриканский стартап Inferact, основанный для ΠΊΠΎΠΌΠΌΠ΅Ρ€Ρ†ΠΈΠ°Π»ΠΈΠ·Π°Ρ†ΠΈΠΈ ΠΎΡ‚ΠΊΡ€Ρ‹Ρ‚ΠΎΠ³ΠΎ Ρ„Ρ€Π΅ΠΉΠΌΠ²ΠΎΡ€ΠΊΠ° vLLM (Vectorized Large Language Model inference), объявил ΠΎ ΠΏΡ€ΠΈΠ²Π»Π΅Ρ‡Π΅Π½ΠΈΠΈ $150 ΠΌΠΈΠ»Π»ΠΈΠΎΠ½ΠΎΠ² Π² Ρ€Π°ΡƒΠ½Π΄Π΅ посСвного финансирования. Π­Ρ‚ΠΎ финансированиС, ΠΎΡ†Π΅Π½ΠΈΠ²Π°ΡŽΡ‰Π΅Π΅ компанию Π² $800 ΠΌΠΈΠ»Π»ΠΈΠΎΠ½ΠΎΠ² Π΅Ρ‰Ρ‘ Π΄ΠΎ Π²Ρ‹Ρ…ΠΎΠ΄Π° Π½Π° Ρ€Ρ‹Π½ΠΎΠΊ, ΠΏΠΎΠ΄Ρ‡Ρ‘Ρ€ΠΊΠΈΠ²Π°Π΅Ρ‚ высокий интСрСс инвСсторов ΠΊ тСхнологиям ΠΎΠΏΡ‚ΠΈΠΌΠΈΠ·Π°Ρ†ΠΈΠΈ Π²Ρ‹Π²ΠΎΠ΄Π° ИИ. Π€Ρ€Π΅ΠΉΠΌΠ²ΠΎΡ€ΠΊ vLLM, извСстный своСй ΡΡ„Ρ„Π΅ΠΊΡ‚ΠΈΠ²Π½ΠΎΡΡ‚ΡŒΡŽ ΠΈ высокой ΡΠΊΠΎΡ€ΠΎΡΡ‚ΡŒΡŽ ΠΎΠ±Ρ€Π°Π±ΠΎΡ‚ΠΊΠΈ запросов ΠΊ LLM, позволяСт Π·Π½Π°Ρ‡ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΡΠ½ΠΈΠ·ΠΈΡ‚ΡŒ Π·Π°Ρ‚Ρ€Π°Ρ‚Ρ‹ Π½Π° инфраструктуру. ΠŸΠΎΠ»ΡƒΡ‡Π΅Π½Π½Ρ‹Π΅ срСдства Π±ΡƒΠ΄ΡƒΡ‚ Π½Π°ΠΏΡ€Π°Π²Π»Π΅Π½Ρ‹ Π½Π° Ρ€Π°Π·Π²ΠΈΡ‚ΠΈΠ΅ коммСрчСской ΠΏΠ»Π°Ρ‚Ρ„ΠΎΡ€ΠΌΡ‹, которая ΠΏΠΎΠΌΠΎΠΆΠ΅Ρ‚ компаниям быстрСС ΠΈ дСшСвлС Π²Π½Π΅Π΄Ρ€ΡΡ‚ΡŒ большиС языковыС ΠΌΠΎΠ΄Π΅Π»ΠΈ Π² свои ΠΏΡ€ΠΎΠ΄ΡƒΠΊΡ‚Ρ‹.

#vLLM #Π‘Ρ‚Π°Ρ€Ρ‚Π°ΠΏΡ‹Π˜Π˜ #Π˜Π½Ρ„Π΅Ρ€Π΅Π½Ρ