როცა კომპანიის დოკუმენტები ერთმანეთს ეწინააღმდეგება: როგორ ვმართოთ AI-ის ცოდნა

მოკლე პასუხი: AI ასისტენტი ორ წინააღმდეგობრივ დოკუმენტს ავტორიტეტულად ვერ გამოაცხადებს მხოლოდ იმიტომ, რომ ორივე ერთ საქაღალდეში დევს. პასუხამდე ბიზნესმა უნდა განსაზღვროს მფლობელი, მოქმედების თარიღი, სტატუსი, მკითხველის წვდომა და გაუქმებული წყაროს ამოღების წესი. თუ ეს ინფორმაცია არ არსებობს, სწორი პასუხი შეიძლება იყოს: „მოქმედი წყაროდან ამას ვერ ვადასტურებ“.

სარედაქციო შენიშვნა: ტექსტი მომზადებულია AI-ის დახმარებით და განკუთვნილია ენობრივი და სარედაქციო გადახედვისთვის. ეს არ არის კლიენტის შემთხვევა და არ ამტკიცებს, რომ რომელიმე კონკრეტული სისტემა ამ წესით არის აწყობილი.

გამართული პასუხი შეიძლება არასწორი ვერსიიდან მოდიოდეს

ცოდნის პრობლემა ხშირად პასუხის გენერირებამდე იწყება. საქაღალდეში შეიძლება ინახებოდეს შარშანდელი პოლიტიკა, ახალი ტექსტი ძალაში შესვლის თარიღის გარეშე, ელფოსტაში დაწერილი გამონაკლისი და პრეზენტაციაში გადაწერილი მოკლე შეჯამება. მოძიების სისტემამ შეიძლება შესაბამისი სიტყვები იპოვოს, მაგრამ ვერ გაიგოს, რომ ნაპოვნი დოკუმენტი უკვე შეცვლილია.

ამიტომ მნიშვნელოვანია დოკუმენტის წარმომავლობა. NIST-ის განმარტებაში provenance ნივთის წარმოშობასა და ისტორიას ეხება. კომპანიის ცოდნის პროცესში ეს ნიშნავს, რომ შესაძლებელი უნდა იყოს პასუხი ოთხ მარტივ კითხვაზე: ვინ დაამტკიცა დოკუმენტი, ვის ეხება, როდის ამოქმედდა და რომელმა ვერსიამ ჩაანაცვლა.

თუ გუნდმა ჯერ არ იცის, სად უნდა ჩასვას ეს კონტროლები, aiNOW-ის კონსულტაციის მიმართულება სამუშაო პროცესის რუკის შედგენაში დაგეხმარებათ. მომსახურების გვერდი არ არის მტკიცებულება რომელიმე მომწოდებლის მონაცემთა დამუშავების წესის შესახებ.

თითოეულ წყაროს მცირე, გამოსაყენებელი ჩანაწერი მიეცით

დაიწყეთ არა რთული კლასიფიკაციით, არამედ იმ ველებით, რომლებიც ადამიანსა და სისტემას შეუფერებელი წყაროს გამორიცხვის საშუალებას მისცემს.

ეს ველები შინაარსს ავტომატურად ჭეშმარიტს არ ხდის. ისინი მის სტატუსს ხილულს ხდის. ამის შემდეგ მოძიების ეტაპს შეუძლია გაუქმებული სამუშაო ვერსია გამორიცხოს, ნაცვლად იმისა, რომ მოდელს სთხოვოს უფლებამოსილება მხოლოდ ტექსტის ტონიდან გამოიცნოს.

შედარება: პრიორიტეტი მხოლოდ სიახლეს არ ნიშნავს

ორი წყარო ორივე შეიძლება მოქმედი იყოს, მაგრამ სხვადასხვა მასშტაბზე ვრცელდებოდეს. ქვეყნის პოლიტიკა შეიძლება კომპანიის საერთო წესთან თანაარსებობდეს; ხელმოწერილმა ხელშეკრულებამ ერთ კლიენტთან სახელმძღვანელოს ზოგადი წესი შეცვალოს; საგანგებო მითითებას კი მოკლე ვადა ჰქონდეს. ამიტომ „უახლესი ყოველთვის იმარჯვებს“ საკმარისი წესი არ არის.

პრიორიტეტი ჩვეულებრივ ენაზე ჩამოაყალიბეთ. მაგალითად: მოქმედი თარიღის მქონე დამტკიცებული პოლიტიკა სასწავლო სლაიდზე მაღლა დგას; ადგილობრივი გამონაკლისი მხოლოდ მითითებულ გუნდს ეხება; მფლობელისა და თარიღის გარეშე მასალა პასუხის წყაროდ არ გამოიყენება. რთულ შემთხვევას ადამიანი წყვეტს, ასისტენტი კი შერჩეულ წყაროს აჩვენებს და მოუგვარებელ წინააღმდეგობას გადაცემის გზით აგზავნის.

NIST-ის AI Risk Management Framework სანდო AI-ს გარშემო მმართველობასა და რისკების მართვას უსვამს ხაზს. დოკუმენტის კონკრეტულ სქემას ის არ გვკარნახობს, მაგრამ პრაქტიკული დასკვნა მკაფიოა: მფლობელობა და კონტროლი სისტემის გარშემო უნდა არსებობდეს და მხოლოდ მითითებაში არ უნდა იყოს დამალული.

ჯერ გაფილტრეთ წყარო, შემდეგ მოძებნეთ და აჩვენეთ მტკიცებულება

უფრო დაცული მოძიების გზა შეიძლება ასე გამოიყურებოდეს:

1. კითხვა აღწერეთ: დაადგინეთ, რომელ გუნდს ან მომხმარებელს ეხება და რა პერიოდზეა საუბარი.
2. უფლებები შეამოწმეთ: მოძიებაში მხოლოდ ის მასალა დაუშვით, რომლის ნახვის უფლება ამ მომხმარებელს აქვს.
3. სტატუსი და თარიღი გაფილტრეთ: სამუშაო ან გაუქმებული ვერსია მოქმედი პასუხის წყაროდ არ გამოიყენოთ.
4. მონაკვეთი აჩვენეთ: პასუხთან ერთად შეინახეთ დოკუმენტის სახელი, ვერსია და შესაბამისი ადგილი.
5. წინააღმდეგობაზე გაჩერდით: თუ ორი მოქმედი წყარო სხვადასხვა რამეს ამბობს, დასვით საკითხი მფლობელთან.

Microsoft-ის გზამკვლევი საწარმოს მონაცემებთან მუშაობისას მოძიებასა და ციტირებას განიხილავს. თუმცა ციტირება მხოლოდ მაშინ გვეხმარება, როცა მოყვანილი წყარო ერთდროულად შესაბამისიც არის და მოქმედიც. მოძველებულ პოლიტიკაზე მითითება მაინც ცუდი პასუხია.

პირობითი კითხვა დაბრუნების პოლიტიკაზე

წარმოვიდგინოთ საცალო კომპანია, რომელსაც იანვარში გამოცემული დაბრუნების ზოგადი წესი, დეკემბერში მოქმედი დროებითი გამონაკლისი და ჯერ დაუმტკიცებელი ახალი პროექტი აქვს. მომხმარებელი ასისტენტს კითხვას თებერვალში უსვამს.

დროებითი გამონაკლისი უკვე ამოწურულია, პროექტი კი დამტკიცებული არ არის. ჩვეულებრივი პასუხისთვის მოძიებამ იანვრის პოლიტიკა და მისი ძალაში შესვლის თარიღი უნდა დააბრუნოს. თუ კითხვა დეკემბერში გაკეთებულ შეკვეთას ეხება, სისტემას ისტორიული წესი და მფლობელის გადაწყვეტილება სჭირდება. სამი ტექსტის ერთმანეთში შერევა „შუალედურ“ პასუხს შექმნის, მაგრამ არა მოქმედ წესს.

ეს მხოლოდ პირობითი მაგალითია, თუმცა ასეთი შემთხვევა კარგ საცდელ ნიმუშს წარმოადგენს მომხმარებელთან დაკავშირებული ასისტენტის ჩართვამდე. მიზანი არ არის მოდელმა ყველაზე დამაჯერებელი წინადადება დაწეროს; მიზანია გუნდმა დაინახოს, რატომ აირჩია კონკრეტული წყარო.

მცირე ყოველდღიური წესი წლიურ წმენდაზე უკეთ მუშაობს

დოკუმენტის ცოდნის ბაზაში დამატებისასვე დანიშნეთ მფლობელი. მას სთხოვეთ სტატუსის, მოქმედების თარიღის, წვდომის ფარგლებისა და ჩანაცვლებული წყაროს მითითება. პოლიტიკის შეცვლისას გამოაქვეყნეთ ახალი ვერსია, ძველს კი მიანიჭეთ „ჩანაცვლებული“ ან „არქივში“ სტატუსი. მაღალი რისკის კითხვების მოკლე ნაკრები ყოველი მნიშვნელოვანი ცვლილების შემდეგ ხელახლა გამოსცადეთ.

შეინახეთ იმ პასუხების ჟურნალი, სადაც ადამიანს ჩარევა დასჭირდა. განმეორებადი გამონაკლისი ხშირად მიუთითებს ბუნდოვან წყაროებზე და არა მხოლოდ ცუდ მითითებაზე. როცა დამტკიცების გზა გასაგები გახდება, მისი დაკავშირება aiNOW-ის ავტომატიზაციის მიმართულებასთან შეიძლება განიხილოთ.

შეზღუდვები: რას ვერ აგვარებს ეს მიდგომა

ვერსიის ნომერი არ ამტკიცებს, რომ პოლიტიკა კანონიერია, სამართლიანია, სრულია ან სწორად არის გაგებული. წვდომის ფილტრი უსაფრთხოების სრულ შემოწმებას ვერ ცვლის. წყაროს ციტირება არ ნიშნავს, რომ გენერირებული დასკვნა ნამდვილად გამომდინარეობს ამ მონაკვეთიდან.

გამოსცადეთ სისტემა დაკარგული მეტამონაცემებით, გაუქმებული წვდომით, ისტორიული კითხვებითა და განზრახ წინააღმდეგობრივი დოკუმენტებით. თუ პასუხს შეიძლება ფინანსური, სამართლებრივი, დასაქმების ან უსაფრთხოების შედეგი მოჰყვეს, წინასწარ დანიშნეთ პასუხისმგებელი შემმოწმებელი და გაწერეთ, როდის უნდა გაჩერდეს ასისტენტი. დამაჯერებელ, მაგრამ გაურკვეველ პასუხზე უარი ხშირად უფრო უსაფრთხო შედეგია.

რა უნდა გაირკვეს ასისტენტის ჩართვამდე

• აქვს თუ არა ყველა მოქმედ დოკუმენტს მფლობელი და ძალაში შესვლის თარიღი?
• შეიძლება თუ არა მოძიებისას გაუქმებული და სამუშაო ვერსიების გაფილტვრა?
• ნაჩვენები იქნება თუ არა მომხმარებლის უფლებებთან შესაბამისი წყარო?
• არის თუ არა დაწერილი წესი სხვადასხვა დონის პოლიტიკის პრიორიტეტზე?
• ინახება თუ არა კონფლიქტის შემთხვევა და მისი საბოლოო ადამიანური გადაწყვეტა?
• არსებობს თუ არა უარისა და ადამიანთან გადაცემის მკაფიო გზა?

თუ რომელიმე პასუხი უარყოფითია, შემდეგი ნაბიჯი ცოდნის მართვაა და არა უფრო ფართო გაშვება. დარჩენილი ტექნიკური ან სამუშაო პროცესის კითხვებისთვის დაგვიკავშირდით.

ხშირად დასმული კითხვები

შეუძლია თუ არა AI-ს გაარკვიოს, რომელი პოლიტიკა უფრო ახალია?

მას შეუძლია ხილული თარიღების შედარება, მაგრამ მხოლოდ ტექსტიდან ყოველთვის ვერ გამოიცნობს უფლებამოსილებას, მოქმედების ფარგლებს, დამტკიცებასა და წვდომას. ეს წესები ცალკე მეტამონაცემებად შეინახეთ და რთული შემთხვევები გადახედეთ.

ძველი დოკუმენტები აუცილებლად უნდა წავშალოთ?

არა. ბიზნესს შეიძლება ისტორიული ჩანაწერები დასჭირდეს. მთავარია, დოკუმენტს ჰქონდეს მკაფიო სტატუსი: მოქმედი, ისტორიული, გაუქმებული ან კონკრეტული ასისტენტისთვის მიუწვდომელი. შეუსაბამო მოძიება კი დაიბლოკოს.

RAG მოძველებულ პასუხებს მთლიანად გამორიცხავს?

არა. მოძიება განახლებას აადვილებს, მაგრამ ძველი ან ურთიერთსაწინააღმდეგო წყარო მაინც შეიძლება მოიძებნოს. საჭიროა მფლობელი, სიახლის შემოწმება, უფლებების ფილტრი, ტესტები და გადაცემის წესი.

დაკავშირებული მასალა

• ფაილის ატვირთვა AI-ის გაწვრთნას არ ნიშნავს: RAG და მორგებული სწავლება
• რატომ შეიძლება დამაჯერებელი AI პასუხი მცდარი იყოს: გადამოწმების მეთოდი
• ერთი პოლიტიკა, ბევრი ენა: მრავალენოვანი AI ცოდნის ვერსიების მართვა
• AI აგენტის უფლებები: დამტკიცების ზღვარი მანამდე, სანამ ის იმოქმედებს