Perplexity ProのPlaygroundで llama-3.1-sonar-large-128kが実用的

Perplexity ProのPlaygroundというサービスをご存じですか?Playground(遊び場)という単語は商標登録しがたい普通名詞なので、Playgroundという名前のサービスや企業はいくつもあり、紛らわしいですね。画像生成のplayground.comを思い浮かべる方が最も多いかもしれません。しかし、ここで紹介するのは、Perplexity AIが提供するLLM(large language model)の試用サービスです。

PerplexityのPlaygroundの概要

PerplexityのPlaygroundPerplexityのPlaygroundは、各社が開発中のLLMを無料で試すことができるサービスで、初期のChatGPTと同様のシンプルなUIを持つチャットボットです。このプラットフォームでは、ユーザーがさまざまな言語モデルを試すことができ、特にPerplexityが開発したLlama-3.1-Sonarシリーズが注目されています。Perplexity Proでも無料版でも、Home画面の中央下端にあるフットメニューで「Playground」をクリックするとPerplexity Playgroundの画面に入ることが出来ます。画面右下部分から、LLMを選択することができます。Perplexity Playgroundの開始当初はオープンソース系のLLMが片っ端から並んでいたのですが、現在ではllama-3.1系のLLMが大半になっています。(性能上、それ以外のLLMを使う意味がない状況になって来たからだと思います。実験的に色々なAIを試してみたいのならPoeなど、他社のサービスを使えば試用可能です。)

Llama-3.1-Sonarシリーズの特徴

1. Llama-3.1-Sonar-Large-128k-Online
これはMeta社のLlama 3.1 405Bをベースにしたモデルで、高いコスト効率とスピードを誇ります。オンラインでの利用に最適化されており、多様なアプリケーションで優れたパフォーマンスを発揮します。私は殆どの場合Llama-3.1-Sonar-Large-128k-Onlineを選択します。作家の場合、大量のテキストを扱うので、コンテキストウィンドウのサイズが重要になりますが、ChatGPT-4oと同様、実際に128kを扱えるので、実用性が高いです。

英文和訳の場合、入力ウィンドウに13500文字(3000トークン強)まではエラー無く和文を出力するようです。英語で30万文字の長編小説なら23回(実際には10000文字強の入力で30回)で全文を(text promptで詳細に指定する文体や方式に従って)和訳できます。これは入力ウィンドウから入力した場合であり、全文をファイルで添付して要約などの作業をする場合、英語30万文字なら100~128kトークンなので、一発で読み込ませることが出来ます。

Llama-3.1-Sonar-Large-128k-Onlineは、文章処理分野で非常に優れた性能を発揮します。感覚的にはChatGPT 3.5より上ですが、Claude 3.5 Sonnetには若干及ばないかなという印象です。英語から日本語への翻訳では、日本語文に英語や中国語の単語が混入することがありますが、作家としてAIを翻訳に使用する際には推敲を行うため、大きな問題とは感じません

2. API仕様と特徴:
Llama-3.1-Sonarシリーズには、以下の4種類のAPIがあります。

  • Llama-3.1-Sonar-Large-128k-Online
  • Llama-3.1-Sonar-Small-128k-Online
  • Llama-3.1-Sonar-Large-128k-Chat
  • Llama-3.1-Sonar-Small-128k-Chat

各モデルは異なる用途に応じて最適化されており、特にオンライン版はリアルタイムでの応答性が高く、チャット版は対話型アプリケーションに適しています。Smallの方が速いわけですが、Llama-3.1-Sonar-Large-128k-Onlineのスピードは十分であり、私はLlama-3.1-Sonar-Large-128k-Online以外は殆ど使いません。

Perplexity Proと無料版の違い

Perplexity Playgroundは、無料版だと1日5回までという制限がありますが、Perplexity Proだと、1日600回となっており、実用上青天井と言えます。作家の私が長文を扱っていても1日200回を超えることはまずありません。無料版で試してみて、Llama-3.1-Sonar-Large-128k-Onlineを使いたいと感じた時点でPerplexity Proに申し込めばよいと思います。

なお、Perplexity Pro(月額US$20, 初回半額特典)にサブスクすると月額US$5までのAPI使用料が免除されるので、Perplexity API(以下の4種類のいずれか)を使って、自分のPCでPerplexity Playgroundと同じようにChatbotを走らせることができます。

  • llama-3-sonar-small-32k-chat
  • llama-3-sonar-large-32k-chat
  • llama-3-sonar-small-32k-online
  • llama-3-sonar-large-32k-online

お気づきの通りllama-3.1-sonarではなく、llama-3-sonarとなっていますが、私llama-3-sonar-large-32k-onlineのAPIを試してみた所、Perplexity Playgroundで使うllama-3.1-sonar-large-32k-onlineと差異は感じられませんでした。

コンテンツポリシーという壁をなくす方法!

Perplexity Proを利用する際には、コンテンツポリシーによる制限があります。特に性的表現や微妙な内容については「回答できません」となることがあります。使用感として、最も厳しいのはAnthropicのClaude、少し傾向は違っても同等以上に厳しいのがGoogleのGemini、その次に来るのがOpenAIのChatGPTという感じで、Perplexity ProはChatGPT並みか、少し緩いと思います。

作家が困るのは「性的表現」の拒否傾向です。ロマンス文学には何らかの性的表現が含まれるのが普通であり、Amazonで余裕でPG通る文章でもClaudeではアダルト扱いされて、作業が途中でストップすることが頻発します。”Violating our contents policy”と明確に拒否してくれればマシなのですが、violationを避けるべく、微妙な部分を飛ばしたり、変に意訳してしまうこともあるので、チェックに時間がかかります。DeepLで翻訳すればcontents policyでひっかかることは無いのですが、DeepLでは文脈を読んだり細かい翻訳ルールを指定できないので、ノンフィクションなら大丈夫なのですが、小説には力不足です。

Perplexity Playgroundでは、contents policyによる制限が非常に少ないので、ロマンス文学の翻訳に全く支障はありません。(Perplexity ProのエンジンにSonar Huge  すなわち llama-3.1 405Bを使用した場合は、Perplexity Proによるプリプロセッサを通るので、事実上ChatGPT並みのcontents policy制限がかかります。)

どこまで性的表現が許容されるのか試すため、非常にきついアダルト記事をネットで拾ってきてPerplexity Playgroundで翻訳してみたところ、全く支障なく処理しました。(アダルト系の内容を扱うブログ記事のライターさんなど、contents policyのせいでAIを使いこなせていない人にとって朗報ではないでしょうか?!)

結論

Perplexity Playgroundは、多様なLLMを試すことができる貴重なプラットフォームです。特にLlama-3.1-Sonar-Large-128k-Onlineを使える環境として、実験ではなく実用的な価値が出てきたため、一躍新たな選択肢になった感があります。

Perplexity Proの1カ月目が半額になるクーポン
Perplexity クーポン

コメントする