ШІ може звучати як упевнений порадник, не розуміючи твоєї ситуації так, як її розуміє людина. Я побачив це в розмові про свою роботу: асистент змінив рекомендацію, коли я заперечив, але не пояснив, що саме змінилося в його аргументах.
Це красива обгортка ШІ: плавна мова, швидкі відповіді й відчуття, ніби хтось уважно обдумав твою історію. Але всередині може бути відлуння розмови, а не надійне самостійне судження.
Момент, коли рекомендація змінилася
Я попросив ШІ допомогти визначити чіткий напрям для моєї роботи, проєктів та ідей. Розповів про VEI — мій застосунок для людей, які приїжджають до Норвегії, — а також про попередній проєкт, де я помітив проблему й запропонував рішення.
Спершу асистент порадив продавати організаціям послугу: знаходити повторювані проблеми й перетворювати їх на цифрові рішення. Я відповів, що це надто розмито. Якщо потенційний клієнт запитає: «Хто ти і навіщо ти нам?», така фраза не дасть чіткої відповіді.
Тоді асистент змінив напрям: «Наступні 90 днів зроби VEI головним проєктом». Це вже звучало конкретніше. Але він не порівняв цей варіант із послугою, не назвав критеріїв і не пояснив, яка нова інформація змінила рекомендацію.
Суперечність довелося помітити й назвати мені. Асистент визнав, що змінив напрям, лише після мого заперечення. Я не вимагав, щоб він вгадав єдину ідеальну відповідь. Я хотів побачити логіку: що йому відомо, що є припущенням і чому один варіант кращий за інший.
Якщо ШІ змінює пораду, він має пояснити, які факти або критерії змінилися. Нова впевнена відповідь — це ще не пояснення.
Чому плавна мова здається розумінням
Розмова переконлива. Асистент може втримати частину твоїх слів, використати їх у відповіді й повернути охайний текст. Легко відчути, що співрозмовник вислухав, зважив варіанти та дійшов обдуманого висновку.
У цій розмові відповіді чіткіше реагували на мої заперечення, ніж тримали послідовний процес ухвалення рішення. Я сказав, що позиціонування надто розмите, — асистент перейшов до іншого проєкту. Тон лишився впевненим, але переходу між рекомендаціями він не обґрунтував.
Я не стверджую, що жодна система ШІ не здатна робити корисні висновки або що одна розмова доводить щось про всі моделі. Мій діагноз практичний: сучасний розмовний ШІ не мислить і не відповідає за рішення так, як людина. Плавна відповідь не доводить, що система самостійно зрозуміла твою реальну ситуацію.
Це важливо, коли йдеться про бізнес, роботу, гроші або продукт, над яким ти працював роками. Ідея може бути корисною, але це не означає, що вона є правильним рішенням.
Цей ризик досліджували й науковці
У дослідженнях ШІ є назва для тенденції, яку я помітив: сикофантія — схильність моделі погоджуватися з користувачем або лестити йому замість того, щоб насамперед давати правдиву відповідь. Дослідники Anthropic перевірили кілька асистентів і виявили таку поведінку в різних завданнях. Вони також зазначили, що люди можуть віддавати перевагу переконливим відповідям, які збігаються з їхніми поглядами, навіть якщо вони менш правильні.
Це дослідження не доводить, що кожна відповідь ШІ — лише підтакування. Воно показує, чому самої «корисності на слух» недостатньо для оцінки якості. Ось дослідження Anthropic про сикофантію мовних моделей.
У Національній стратегії Норвегії зі штучного інтелекту названо важливими принципами прозорість, пояснюваність і обережне тестування. Документ опубліковано 2020 року; це не сучасний аудит усіх продуктів ШІ. Та базові запитання лишаються важливими: як перевірити систему, показати її обмеження й визначити, хто відповідає за наслідки?
Що я доручу ШІ — і чого не доручу
Я й надалі використовуватиму ШІ, щоб знаходити ідеї, упорядковувати нотатки, створювати чернетки й помічати запитання, які міг пропустити. Це справді корисно. Але я не називатиму відповідь доброю бізнес-порадою лише тому, що вона довга, персоналізована або звучить впевнено.
У розмові про VEI наступним корисним кроком було б порівняти варіанти за однаковими критеріями: аудиторія, докази, витрати, час, ризик і те, що дасть невеликий тест. Натомість асистент обрав напрям, не показавши такого порівняння.
Тепер я прошу не лише рекомендацію:
- Порівняй варіанти за однаковими критеріями.
- Відділи відомі факти від припущень і невідомого.
- Наведи найсильніший аргумент проти власної рекомендації.
- Якщо змінюєш пораду, поясни, які нові факти або критерії до цього призвели.
- Запитай про відсутню інформацію замість того, щоб заповнювати прогалини красивою здогадкою.
Після цього я перевіряю важливі факти поза чатом. Раніше я писав про людське судження в роботі з ШІ і про те, чому демо — це ще не готовий продукт. Остаточне рішення все одно за мною.
ШІ — не панацея
Про обмеження ШІ говорять давно. Але корисно побачити їх у звичайній розмові: можна надати багато контексту, отримати плавну відповідь і все одно не отримати ясності.
Мій діагноз простий: ШІ може підкинути думку, яку варто перевірити, але не гарантує правильної поради. Іноді він допомагає думати. Іноді створює враження, ніби вже подумав замість тебе.
Запитуй не лише: «Це звучить розумно?» Запитай: «На чому це ґрунтується? Що могло б це спростувати? Хто відповідає за рішення?»
Я Алекс Пат, створюю цифрові продукти у Тронгеймі. Більше про мене — на сторінці про мене, у розділі мої проєкти або в LinkedIn.
Поширені запитання
Чи можна довіряти порадам ШІ?
Використовуй їх як матеріал для роздумів, але не як доказ. Перед важливим рішенням перевір факти, припущення й альтернативи.
Чому ШІ змінив рекомендацію?
Відповідь залежить від розмови та останнього запиту. Запитай, які нові факти або критерії спричинили зміну, і порівняй стару й нову рекомендації на однаковій основі.
Це означає, що ШІ марний?
Ні. Він допомагає з ідеями, чернетками та структурою. Але плавна мова не робить його відповідальним експертом.
Як перевірити рекомендацію ШІ?
Попроси перелічити факти, припущення, невідоме та найсильніший контраргумент. Важливі твердження перевір у надійних джерелах і з фахівцем.
Чи доводить одна розмова, що ШІ не може мислити?
Ні. Одна розмова не є науковою перевіркою всіх систем. Але вона може виявити практичну проблему: модель звучить упевнено, змінюючи напрям без пояснення.