この記事は、Eli M. (MVP)氏のブログの抄訳です

AI-Translate の世界に飛び込んでみましょう!

AI-Translate は100 以上の言語をシームレスに翻訳できるように設計されたシンプルでありながら強力なデスクトップ アプリケーションです。画期的な大規模言語モデル(LLM)を活用し、クロスプラットフォーム開発によってさまざまなプラットフォームで統一されたユーザーエクスペリエンスを提供するAI-Translateは、言語翻訳の新たな可能性をもった有望な例となるツールです。

このブログでは、AI-Translateの特徴や機能について簡単に紹介させていただきます。

大規模言語モデル（LLM）とは？

大規模言語モデル（LLM）は、人間の言語を理解、生成、操作するために設計された人工知能（AI）モデルの一種です。膨大な量のテキストデータで学習したLLMは、首尾一貫した文脈に関連した文章を生成し、学習データから認識したパターンに基づいて回答や解決策を提示することができます。LLMのサイズは膨大で、数十億のパラメータから構成されることもあるため、膨大な量の情報と言語的ニュアンスを保存することができます。この機能により、LLMは自然言語処理、チャットボット、コンテンツ生成などのさまざまなアプリケーションで重宝されています。OpenAIのGPT（Generative Pre-trained Transformer）シリーズのようなモデルは、これらの高度なAIシステムの可能性と機能を実証したLLMの代表的な例です。

AI-Translateとは? また AI-Translateの特徴とは?

AI-Translateは、100以上の世界言語間のテキストを翻訳することによって、コミュニケーションのギャップを埋めるために設計されたシンプルなデスクトップアプリケーションであり、ユーザーにシンプルかつ効果的な言語翻訳のオープンソースのサンプルプログラムです。 このオープンソース ツールは、Delphi プログラミング環境を活用して構築されており、FireMonkey フレームワークを利用して、Windows、macOS、Linuxを含む複数のOSプラットフォームで統一されたユーザーエクスペリエンス促進し、将来的には Android および iOS システムにも適応できる可能性があります。 現在 Windows 向けに最適化されておりますが、単一のコードベースと UI で動作するため、ユーザーはOSに関係なく、一貫性のある合理的なユーザーエクスペリエンスを確保できます。

AI-Translateは、以下の業界をリードする革新的な言語モデルをサポートしています。

• vicuna-13b
• gpt-4 – OpenAI
• gpt-4-0613 – OpenAI
• gpt-4-32k – OpenAI
• gpt-4-32k-0613 – OpenAI
• gpt-3.5-turbo – OpenAI
• gpt-3.5-turbo-16k – OpenAI
• llama70b-v2-chat
• llama13b-v2-chat
• falcon-40b-instruct

またReplicate.comやOpenAIのようなプラットフォームとのREST統合により、クライアント内で翻訳を生成する機能を継承しています（APIキーが必要）。AI-Translateは、そのシンプルなインターフェースにもかかわらず、これまでで最も高度な言語モデルのいくつかを活用し、デスクトップアプリケーションから直接強力な翻訳機能へのゲートウェイを提供しています。

AI-Translateでサポートされている言語は?

AI-Translateでは、以下の言語をサポートしております。

• Afrikaans
• Albanian
• Amharic
• Arabic
• Armenian
• Azerbaijani
• Basque
• Belarusian
• Bengali
• Bosnian
• Bulgarian
• Catalan
• Cebuano
• Chichewa
• Chinese (Simplified)
• Chinese (Traditional)
• Corsican
• Croatian
• Czech
• Danish
• Dutch
• English
• Esperanto
• Estonian
• Filipino
• Finnish
• French
• Frisian
• Galician
• Georgian
• German
• Greek
• Gujarati
• Haitian Creole
• Hausa
• Hawaiian
• Hebrew
• Hindi
• Hmong
• Hungarian
• Icelandic
• Igbo
• Indonesian
• Irish
• Italian
• Japanese
• Javanese
• Kannada
• Kazakh
• Khmer
• Kinyarwanda
• Korean
• Kurdish (Kurmanji)
• Kyrgyz
• Lao
• Latin
• Latvian
• Lithuanian
• Luxembourgish
• Macedonian
• Malagasy
• Malay
• Malayalam
• Maltese
• Maori
• Marathi
• Mongolian
• Myanmar (Burmese)
• Nepali
• Norwegian
• Odia (Oriya)
• Pashto
• Persian
• Polish
• Portuguese
• Punjabi
• Romanian
• Russian
• Samoan
• Scots Gaelic
• Serbian
• Sesotho
• Shona
• Sindhi
• Sinhala
• Slovak
• Slovenian
• Somali
• Spanish
• Sundanese
• Swahili
• Swedish
• Tajik
• Tamil
• Tatar
• Telugu
• Thai
• Turkish
• Turkmen
• Ukrainian
• Urdu
• Uyghur
• Uzbek
• Vietnamese
• Welsh
• Xhosa
• Yiddish
• Yoruba
• Zulu

LLMを使用してローカルでAI翻訳はできますか？

特にReplicate.comモデルの導入において、大規模言語モデルが提供する柔軟な運用ダイナミクスは、ユーザーにとって大きなメリットとなります。ユーザーは、これらのモデルをGPUクラウド環境で実行するか、ソフトウェアコンテナ内でのアプリケーション導入の自動化を促進するプラットフォームであるDockerを使用してローカルで実行するかを自由に選択することができます。

クラウドセットアップを選択すると、ユーザーはローカルのシステムリソースに負担をかけることなく、高速クラウドGPUを利用してモデルをリモートで実行できるようになります。 この方法は一般的に、大量のデータを効率的に処理する能力を保証します。さらに、クラウドのセットアップは連携作業の手段を提供し、翻訳されたコンテンツの共有やアクセスを簡単に行うことができます。

一方、Dockerを介したローカルでの導入では、さらに個別のセットアップが可能になり、ユーザはデータとその動作環境をより詳細に制御できます。Dockerは基本的に、アプリケーションとその依存関係を「コンテナ」にカプセル化し、隔離された状態を維持して、さまざまなコンピューティング環境で同じように実行できます。これによって、より安全なテスト環境が容易になるだけでなく、Docker が実行されている場所に依存せずにアプリケーションのパフォーマンスを安定して動作することが保証されます。

Replicateは、クラウドとローカルのセットアップを切り替えられる柔軟性を提供することで、ユーザーがアプリケーションの運用フレームワークを個人の好みやシステム構成に完全に合わせて調整できるようにし、利便性と効率性は、開発者が主導権を握り、計算リソースと使用要件に基づいてエクスペリエンスを最適化するための幅広い選択肢を提供します。

docker run -d -p 5000:5000 --gpus=all r8.im/replicate/vicuna-13b@sha256:6282abe6a492de4145d7bb601023762212f9ddbbe78278bd6771c8b3b2f2a13b
curl http://localhost:5000/predictions -X POST
-d '{"input": {
  "prompt": "...",
    "max_length": "...",
    "temperature": "...",
    "top_p": "...",
    "repetition_penalty": "...",
    "seed": "...",
    "debug": "..."
  }}'

AI-Translateを使い始めるには？

AI-Translateは、シンプルな操作性と最新のAI技術を組み合わせて多くのシステムで簡単かつ詳細な言語翻訳を提供します。すべての人のニーズに合ったオプションと幅広い言語を網羅するこのツールは、開発者を念頭に置いて設計されたサンプルツールです。AI-Translateのソースコードはこちらからダウンロードできますので、もしご興味がございましたら、AI-Translateの機能をお試しください。

また以下のブログも合わせてご覧ください。

CodeDroidAI for DelphiでAIの力を活用しよう!