最近、似たような相談を立て続けにいただきました。

「Claudeを使って、自分で簡単なシステムを作ってみました」

「一応、想定していた通りには動いています」

「ただ、セキュリティや設計が正しいのかは分かりません」

「本職のエンジニアから見て問題ないか、一度見てもらえませんか」

少し前までは、
システムを作ろうと思ったら、
エンジニアに依頼するのが一般的でした。

ところが今は、
ClaudeやChatGPTなどを使いながら、
自分で業務システムを作る人が増えています。

顧客管理、案件管理、社内申請、求人管理、データ集計など、
これまでExcelやスプレッドシートで管理していた業務を、
自分でシステム化することも珍しくなくなりました。

これは、とても良い変化だと思っています。

現場の業務を一番理解している人が、
自分で必要なものを形にできるからです。

一方で、
実際にシステムを会社で使い始める段階になると、
別の不安が出てきます。

「動いている」と「安心して使える」は違う

AIを使えば、
ログイン画面や入力フォーム、一覧画面などは
比較的簡単に作れます。

データを登録したり、検索したり、編集したりする機能も、
見た目上は問題なく動くことがあります。

ただし、システムで本当に難しいのは、
画面に見えている部分だけではありません。

例えば、次のような点です。

  • 他のユーザーのデータが見えない設計になっているか
  • 管理者と一般ユーザーの権限が適切に分かれているか
  • パスワードやAPIキーが安全に管理されているか
  • データベースがインターネット上に公開されていないか
  • 不正な入力やアクセスを防げるか
  • データが消えたときに復旧できるか
  • 障害が起きたときに原因を追えるか
  • 作った本人以外でも修正できる状態になっているか

こうした部分は、普段システム開発をしていない人からは見えにくい部分です。

そして、画面上では正常に動いていても、
裏側に問題を抱えていることがあります。

つまり、

「それっぽく動いている」
ことと、

「会社の業務で安心して使える」
ことは、同じではありません。

AIで作ったシステムが危険という話ではない

ここで誤解してほしくないのは、
AIで作ったシステムだから危険、ということではありません。

人間のエンジニアが作ったシステムでも、
設計や実装に問題があることはあります。

反対に、AIをうまく活用しながら、
きちんとしたシステムを作ることも可能です。

問題は、AIを使ったかどうかではなく、

  • 誰が設計を確認したのか
  • どのようなテストを行ったのか
  • どの程度のデータを扱うのか
  • 誰が利用するのか
  • 問題が起きたときに誰が対応するのか

という点です。

個人で試しに使うツールと、
顧客情報や社員情報を扱うシステムでは、
求められる安全性が異なります。

まずは自分だけで試すのであれば、
多少粗い部分があっても大きな問題にはならないかもしれません。

しかし、
社員が使う、
顧客が使う、
個人情報を保存する、
という段階になると、事前の確認が必要になります。

すべて作り直す必要があるとは限らない

自分で作ったシステムについて相談すると、

「全部作り直さないと駄目です」

と言われるのではないかと不安に感じる人もいると思います。

実際には、必ずしもそうとは限りません。

現在の構成やコードを確認すると、大きく3つの状態に分かれます。

そのまま改善できるケース

基本的な構成に大きな問題がなく、
セキュリティ設定やバックアップ、権限管理などを追加すれば使えるケースです。

この場合は、今あるシステムを活かしながら、必要な部分だけを修正できます。

一部を作り直した方がよいケース

画面や基本機能は利用できるものの、
ログインやデータベースの設計など、一部に大きな問題があるケースです。

この場合は、
見た目や業務フローを残しながら、危険な部分だけを作り直します。

全体を見直した方がよいケース

システムの構造が複雑になりすぎていたり、
データ漏えいにつながる設計になっていたりして、
修正を重ねるより作り直した方が安全で安いケースです。

大切なのは、
最初から作り直すと決めるのではなく、
現在の状態を確認したうえで判断することです。

必要なのは「開発代行」だけではない

これからは、システム開発会社にすべてを任せる形だけでなく、

「自分たちでAIを使って作り、必要な部分だけエンジニアに確認してもらう」

という進め方が増えていくと思います。

例えば、利用者自身がClaudeを使って画面や機能を作り、エンジニアが次の部分を担当する形です。

  • 要件や設計の整理
  • データベース設計の確認
  • セキュリティチェック
  • コードレビュー
  • 本番公開前の確認
  • サーバーやバックアップの設定
  • 障害発生時の対応
  • 今後の改修方針の相談

すべてを開発会社に依頼するよりも費用を抑えながら、専門家の確認も入れられます。

一方で、自社だけで進めるよりも安心して運用できます。

私は、この中間の支援に大きな需要があると感じています。

「作る人」ではなく「安全に使える状態に整える人」

これまで、エンジニアの仕事は、システムを一から作ることが中心でした。

しかし、AIによってシステムを作るハードルが下がると、エンジニアに求められる役割も変わっていきます。

今後は、

  • 作ったものが正しいか判断する
  • 危険な部分を見つける
  • 運用できる形に整える
  • 将来困らない設計に修正する
  • AIにどのような指示を出すべきか整理する

といった役割が、より重要になると考えています。

AIがコードを書けるようになっても、
会社として利用してよいかを判断する役割は残ります。

むしろ、作れる人が増えるほど、確認する人の必要性も高まります。

こんな状態なら、一度確認した方がよいかもしれません

次のような状態に当てはまる場合は、本格的に利用を始める前に、専門家へ相談することをおすすめします。

  • ClaudeやChatGPTを使ってシステムを作った
  • 自分や社内の人だけで開発している
  • 顧客情報や個人情報を保存している
  • 複数の会社やユーザーが利用する
  • 誰がどのデータを見られるか不安がある
  • データベースやサーバーの設定に自信がない
  • バックアップの仕組みがない
  • 作った本人しかシステムを理解していない
  • 近いうちに顧客や社内へ公開する予定がある

問題が起きてから直すよりも、公開前に確認した方が、費用も負担も小さく済むことが多いです。

AIで作ることを否定するのではなく、活かす

せっかく自分で作ったシステムを、最初から否定する必要はありません。

業務を理解している人が、自分で試しながら形にしたこと自体に、大きな価値があります。

実際に触れるものがあることで、必要な機能や不要な機能も明確になります。

だからこそ、そのシステムを捨てるのではなく、

「どこまでそのまま使えるか」

「どこを直せば業務利用できるか」

「今後どのように育てていくか」

を整理することが重要です。

AIで作ったシステムを、動く試作品のままで終わらせず、実際の業務で使える状態に整える。

そうした支援が、これから必要になっていくのではないかと思っています。

AIで作ったシステムのご相談を受け付けています

当社では、ClaudeやChatGPTなどを使って自作したシステムについて、現在の状態を確認し、業務で安心して使える状態へ整える支援を行っています。

「一応動いているが、このまま公開してよいか不安」
「セキュリティや権限設計に問題がないか見てほしい」
「全部作り直すのではなく、今あるものをできるだけ活かしたい」
「今後も自分たちでAIを使って改善していきたい」

このような段階でもご相談いただけます。

まずは、システムの用途や現在の構成、困っている点をお聞きし、今あるものを活かせるか、一部修正が必要か、全体を見直した方がよいかを整理します。

無理に作り直しを勧めるのではなく、必要な範囲と優先順位を明確にしたうえで、診断、改善、本番公開、継続的な技術支援まで対応します。

AIで作ったシステムを、このまま使ってよいか少しでも不安がある場合は、まずはお気軽にご連絡ください。