ИИ не заменяет ученого-компьютерщика, и это хорошо

Иллюзия «ИИ делает все»

Повсюду мы слышим: «ИИ заменит разработчиков», «Вам больше не нужно уметь кодить», «Попросите ChatGPT сделать вам сайт». Это заманчиво. Это также опасно.

Я использую ИИ каждый день в своей работе. Claude Code сгенерировал большую часть кода для моего сайта. Но если бы мне пришлось подвести итог тому, что я узнал за год практики, я бы сказал следующее: ИИ — это исключительный инструмент в руках того, кто понимает, что он делает, и настоящий риск в руках того, кто этого не понимает.

У ИИ нет сознания

ИИ, каким бы хорошим он ни был, не видит общей картины. Она не понимает общий контекст вашего проекта. Она этого не знает:

• Ваш сервер работает со слишком открытыми разрешениями.
• Ваша контактная форма хранит личные данные без явного согласия.
• На вашем сайте нет политики конфиденциальности, соответствующей LPD.
• Срок действия вашего сертификата SSL истекает на следующей неделе.
• Ваша резервная копия никогда не проверялась

Он создает код, который технически работает. Вот только «это работает» и «это правильно» — две совершенно разные вещи.

Конкретный пример

Представим, что вы просите ИИ: «Создайте мне контактную форму с отправкой по электронной почте».

Он создаст для вас чистую, функциональную, хорошо продуманную форму. Большой.

Но подумает ли она о:

• Проверка входных данных на стороне сервера для предотвращения инъекций? Может быть. Может быть, нет.
• Добавить CAPTCHA или приманку против спама? Вероятно, не по умолчанию.
• Сообщить пользователю, что его данные обрабатываются в соответствии с LPD/RGPD? Нет.
• Настройте SPF/DKIM в своем домене, чтобы электронные письма не попадали в спам? Конечно, нет.
• Зашифровать соединение между формой и сервером отправки? Только если ты спросишь.

Каждый из этих пунктов требует знаний, которых у ИИ нет в контексте. Вам решать, знать, что эти вопросы существуют.

Реальные риски

Использовать ИИ без навыков работы с компьютером — это все равно, что водить гоночный автомобиль без прав. Вы можете завестись и ехать прямо. На первом повороте дело обстоит иначе.

Безопасность

ИИ может генерировать код с недостатками: жесткие ключи API в HTML, незащищенные конечные точки, ненастроенные запросы SQL. Если вы не знаете, что такое XSS-инъекция, вы не заметите, что ваш сайт уязвим к ней.

Персональные данные

В Швейцарии действует строгий закон DPA (Федеральный закон о защите данных). В Европе RGPD действует еще сильнее. Форма, аналитический файл cookie, система бронирования: все это собирает персональные данные. Вы должны знать, что вы имеете право делать или нет.

Слепая зависимость

Худший сценарий — использовать ИИ в качестве «раба», который сделает все за вас. Вы получаете сайт, публикуете его и ничего в нем не понимаете. В тот день, когда есть проблема, а она будет, вы парализованы.

Что ИИ делает очень хорошо

Я не говорю, что вам не следует использовать ИИ. Напротив, это самый мощный инструмент, который я когда-либо держал в руках.

В чем она превосходна:

• Accélérer l’implémentation : ce qui prend 4 heures à la main prend 30 minutes
• Explorer des solutions : “comment faire X ?” avec du contexte et des exemples
• Apprendre, et c’est sans doute son meilleur usage : elle t’explique un concept, te montre des exemples, te confronte à des situations réelles
• Débugger : tu colles un message d’erreur et tu obtiens une explication claire
• Prototyper : pour une première maquette, c’est imbattable

Ce que l’IA ne fait PAS

• Elle ne vérifie pas la conformité légale de ton projet
• Elle ne connaît pas la configuration de ton serveur
• Elle ne prend pas de responsabilité si ton site est hacké
• Elle ne comprend pas ton business, tes clients, tes contraintes
• Elle ne remplace pas une formation solide

Mon approche

Je me suis formé sur les fondamentaux avant d’utiliser l’IA pour le développement :

• Réseaux : DNS, HTTP/HTTPS, comment fonctionne Internet
• Serveurs : CloudPanel, SSH, déploiement, permissions
• Sécurité : certificats SSL, en-têtes de sécurité, bonnes pratiques
• Droit : LPD, RGPD, cookies, consentement
• Architecture : sites statiques vs dynamiques, API, bases de données

C’est grâce à ces connaissances que je peux utiliser l’IA efficacement. Je sais quoi demander, je sais valider ce qu’elle produit, et je sais repérer quand elle se trompe.

Le message

L’IA ne va pas remplacer les informaticiens. Elle va remplacer ceux qui refusent de l’utiliser. Mais elle ne remplacera jamais la compréhension et le jugement humain.

Si tu veux t’en servir pour créer des choses, et tu devrais, commence par investir dans tes connaissances. Comprends le “comment ça marche” avant de demander “fais-le pour moi”. C’est toute la différence entre un pro qui se sert d’un outil et quelqu’un qui appuie sur des boutons au hasard.

Besoin d’un professionnel qui maîtrise à la fois l’IA et l’informatique ? Réservez une consultation gratuite.