Amazon-ის ინჟინრები Anthropic-ის მოდელების დისტილაციას ახდენენ, რათა ტოკენებზე დაფუძნებულ გადახდამდე ხარჯები შეამცირონ
Amazon-ის ინჟინრები ფარულად მუშაობენ Anthropic-ის მოდელების დისტილაციაზე, რათა შექმნან უფრო მცირე და იაფი ვერსიები შიდა მოხმარებისთვის. ეს ნაბიჯი განპირობებულია ხარჯების ზრდის მოლოდინით, რაც პარტნიორობის პირობებს უკავშირდება 2026 წელს.
2027 წლიდან Amazon-ი მოდელების გამოყენებისთვის გადაიხდის დამუშავებული ტოკენების რაოდენობის მიხედვით და არა გამოთვლითი საათების მიხედვით. ეს ცვლილება, The Information-ის თანახმად, საოპერაციო ხარჯებს საგრძნობლად გაზრდის.
კომპანიის პრესსპიკერმა განაცხადა, რომ პარტნიორობა ხარჯებს არ გაზრდის და დასძინა: „პარტნიორობის გაფართოების შედეგად ხარჯები არ გაიზრდება“. თუმცა, კომპანია მაინც აქტიურად ეძებს იაფ ალტერნატივებს 1 მიმწოდებლის ნაცვლად.
ტექნოლოგიური გიგანტი ასევე განიხილავს საკუთარი Nova მოდელებისა და OpenAI-ის გამოყენებას. Amazon-მა წელს 25 მილიარდ დოლარამდე დამატებითი ინვესტიცია ჩადო Anthropic-ში, ხოლო OpenAI-ში 50 მილიარდ დოლარამდე დახარჯა.
წყარო: https://the-decoder.com/amazon-engineers-are-reportedly-distilling-anthropic-models-to-cut-costs-before-new-token-based-pricing-kicks-in