Лише за кілька коротких років ШІ став невід'ємною частиною повсякденних бізнес-операцій, багато компаній швидко переходять до автоматизації процесів і покладаються на системи, керовані ШІ. Але за словами Георга Мейєра, стратега та експерта з систем, швидкість і зручність можуть мати свою ціну, особливо коли компанії втрачають розуміння того, як насправді працюють їхні найважливіші системи.
Мейєр попереджає, що одним із найбільших ризиків є хибне відчуття розуміння. "Компанії можуть думати, що знають, що відбувається, через запити, які вони надали", — пояснює він, — "але вони не мають справжнього уявлення про те, що відбувається всередині."
Сучасні системи ШІ, зокрема великі мовні моделі, є потужними, але їх важко повністю перевірити. Їхні внутрішні процеси не завжди прозорі, а їхні результати можуть відрізнятися через вбудовану випадковість. Це створює проблеми щодо послідовності та надійності, особливо коли ШІ використовується в основних бізнес-функціях. "Існують приховані ризики для відтворюваності та надійності", — каже Мейєр, — "які можуть бути катастрофічними, коли вони впливають на серце компанії."
Для Мейєра рішення полягає не в тому, щоб уникати ШІ, а в тому, щоб забезпечити центральну роль людського розуміння. Компаніям все ще потрібні люди, які знають, як працюють системи, навіть якщо ці системи підтримуються ШІ.
Короткострокові вигоди, довгострокові ризики
Інше занепокоєння, яке висвітлює Мейєр, — це довгостроковий вплив ШІ на експертизу в організаціях. Хоча ШІ може значно прискорити робочі процеси та допомогти перетворити знання в дії, надмірна залежність від нього може мати ненавмисні наслідки.
"Як надмірна, так і недостатня залежність можуть бути ризикованими", — каже Мейєр. "ШІ може скоротити час, необхідний для застосування експертизи, але це порушує важливе питання: як ми навчаємо наступне покоління експертів, якщо вони ніколи не розвивають основи?"
У короткостроковій перспективі ШІ може зробити команди більш продуктивними. Але якщо працівники починають залежати від нього для основного мислення та вирішення проблем, компанії ризикують втратити експертизу, необхідну для вирішення складних, несподіваних ситуацій або ситуацій, які потребують людського підходу. Мейєр вважає, що компанії та освітяни повинні бути цілеспрямованими у підтримці фундаментальних знань, особливо для сценаріїв, де на ШІ не можна покластися.
Відповідальність все ще належить людям
Можливо, найважливішим питанням, яке порушує Мейєр, є відповідальність. Оскільки системи ШІ беруть на себе більше відповідальності, деякі організації можуть спокуситися перекласти провину, коли щось йде не так. Мейєр чітко заявляє, що це не є життєздатним підходом.
"Відповідальність та її юридичний аналог, зобов'язання, фундаментально пов'язані з людьми", — каже він. "Ви не можете умити руки від поганого результату, кажучи 'це зробив ШІ'."
Він зазначає, що багато компаній вже намагаються орієнтуватися в цій сірій зоні. Постачальники ШІ часто включають застереження про те, що їхні системи можуть робити помилки, тоді як такі галузі, як автомобільна, просувають функції "самокерування", але все ще покладають відповідальність на людину-водія. Однак Мейєр стверджує, що якщо системи справді автономні, відповідальність повинна перейти до тих, хто їх розробляє та впроваджує.
Це стосується навіть менших повсякденних випадків використання. Наприклад, компанії, що використовують ШІ для створення додатків, які обробляють конфіденційні дані, не можуть припускати, що технологія правильно керуватиме безпекою. "ШІ не довірено дані", каже Мейєр. "Компанії довірено."
