Bu makale henüz tercüme edilmemiştir. Orijinal versiyon gösteriliyor.

Amazon-ის ინჟინრები Anthropic-ის მოდელების დისტილაციას ახდენენ, რათა ტოკენებზე დაფუძნებულ გადახდამდე ხარჯები შეამცირონ

Amazon-ის ინჟინრები Anthropic-ის მოდელების დისტილაციას ახდენენ, რათა ტოკენებზე დაფუძნებულ გადახდამდე ხარჯები შეამცირონ

Amazon-ის ინჟინრები ფარულად მუშაობენ Anthropic-ის მოდელების დისტილაციაზე, რათა შექმნან უფრო მცირე და იაფი ვერსიები შიდა მოხმარებისთვის. ეს ნაბიჯი განპირობებულია ხარჯების ზრდის მოლოდინით, რაც პარტნიორობის პირობებს უკავშირდება 2026 წელს.

2027 წლიდან Amazon-ი მოდელების გამოყენებისთვის გადაიხდის დამუშავებული ტოკენების რაოდენობის მიხედვით და არა გამოთვლითი საათების მიხედვით. ეს ცვლილება, The Information-ის თანახმად, საოპერაციო ხარჯებს საგრძნობლად გაზრდის.

კომპანიის პრესსპიკერმა განაცხადა, რომ პარტნიორობა ხარჯებს არ გაზრდის და დასძინა: „პარტნიორობის გაფართოების შედეგად ხარჯები არ გაიზრდება“. თუმცა, კომპანია მაინც აქტიურად ეძებს იაფ ალტერნატივებს 1 მიმწოდებლის ნაცვლად.

ტექნოლოგიური გიგანტი ასევე განიხილავს საკუთარი Nova მოდელებისა და OpenAI-ის გამოყენებას. Amazon-მა წელს 25 მილიარდ დოლარამდე დამატებითი ინვესტიცია ჩადო Anthropic-ში, ხოლო OpenAI-ში 50 მილიარდ დოლარამდე დახარჯა.

წყარო: https://the-decoder.com/amazon-engineers-are-reportedly-distilling-anthropic-models-to-cut-costs-before-new-token-based-pricing-kicks-in