Сейчас использую PPG.

Хочу прикрутить вот сюда https://editsvgcode.com
платный промпт с LLM, чтобы можно было задвать манипуляции с файлом текстом.
Сам за это платить не хочу, хочу чаржить пользователя.

Варианты:

1. разрешить пользователю вводить его собственный ключ.
По виду нормально, но тогда надо объяснять как это делать, и не особо прибыльно я думаю будет.

2. считать использование.
На каждый реквест выдается количество использованых токенов, их можно конвертировать в количетсво потраченных денег.
Аккумулировать для каждого пользователя. Можно в принципе ввести плату, в которую включить определенное количество токенов
Но у PPG нет такого, насколько я знаю (нельзя покупать "токены"), но может я ошибаюсь?

3. Выделять фиксированное число токенов на месяц по подписке.
Ну тут непонятно что делать если предел превышен

4. Полностью свой хостинг модели.
Дрого и модель можно хостить только тупенькую.

В общем есть у кого опыт как встрить платную LLM в свою софтину и не обанкротиться, а наоборот, озолотиться?

Это в приницпе общий вопрос, как быть если сам софт использует 3-rd party платный сервис

Здравствуйте, bnk, Вы писали:

bnk>1. разрешить пользователю вводить его собственный ключ.
bnk>По виду нормально, но тогда надо объяснять как это делать, и не особо прибыльно я думаю будет.

Я встречал такой вариант. Насколько я понимаю, есть стандартный протокол от OpenAI, который много кто уже поддерживает. И пользователю даётся выбор:
— сторонний платный чатик типа ChatGPT и ввод ключа;
— выбор своей LLM: тип (llama.cpp, ollama etc), ip-адрес;
— что-то совсем простое локальное на 1-3B параметров, которое может работать на базе той же llama.cpp.

Здравствуйте, Nuzhny, Вы писали:

bnk>>1. разрешить пользователю вводить его собственный ключ.
bnk>>По виду нормально, но тогда надо объяснять как это делать, и не особо прибыльно я думаю будет.

N>Я встречал такой вариант. Насколько я понимаю, есть стандартный протокол от OpenAI, который много кто уже поддерживает. И пользователю даётся выбор:
N>- сторонний платный чатик типа ChatGPT и ввод ключа;
N>- выбор своей LLM: тип (llama.cpp, ollama etc), ip-адрес;
N>- что-то совсем простое локальное на 1-3B параметров, которое может работать на базе той же llama.cpp.

Выглядит хорошо для опенсорса. Я же хочу на этом как-то денег поиметь
В смысле, непонятно в каком месте в этой схеме я получаю бабло

Здравствуйте, bnk, Вы писали:

bnk>Выглядит хорошо для опенсорса. Я же хочу на этом как-то денег поиметь
bnk>В смысле, непонятно в каком месте в этой схеме я получаю бабло

Таки надо понять, какую пользу ты ему приносишь. Насколько я знаю, OpenAI тоже на некоторых планах работает себе в убыток.

Здравствуйте, Nuzhny, Вы писали:

bnk>>Выглядит хорошо для опенсорса. Я же хочу на этом как-то денег поиметь
bnk>>В смысле, непонятно в каком месте в этой схеме я получаю бабло

N>Таки надо понять, какую пользу ты ему приносишь. Насколько я знаю, OpenAI тоже на некоторых планах работает себе в убыток.

Не, польза простая — юзер может попросить AI подправить за него SVG файл (с помощью промпта). Цвет там поменять, толщину линий. GPT 4.1 нормально SVG редактирует, это же тупо текст.
А я хочу брать бабло за предоставление посредничества по сути, т.е. дать возможность юзеру сделать это с комфортом, сразу видя результат.
Я тут думал как трафик можно монетизировать

Автор: bnk
Дата: 01.10.24

, ну вот такая идея пришла в голову.

Влепить там чат, первые два-три запроса бесплатные например, потом подписка баксов на пять-десять или покупка токенов.
Ну вот и вопрос в том как это дело проще всего "оформить материально", типа на базе PPG например.
С текущей посещаемостью наверняка найдутся те кто подпишется, если даже на баннер кликают.
Ну и хотелось бы чтобы не себе в убыток был результат понятно.

Здравствуйте, bnk, Вы писали:

bnk>Сейчас использую PPG.
Когда я только пробовал зарегистрироваться в PPG со схемой продажи пакетов "токенов"/"часов поддержки" — они сказали что это запрещено.
Но может с тех пор что-то изменилось. Думаю, спросить у них было бы наилучшим способом получить информацию.

Я бы использовал этот метод:
bnk>2. считать использование.
bnk>На каждый реквест выдается количество использованых токенов, их можно конвертировать в количетсво потраченных денег.
bnk>Аккумулировать для каждого пользователя. Можно в принципе ввести плату, в которую включить определенное количество токенов
bnk>Но у PPG нет такого, насколько я знаю (нельзя покупать "токены"), но может я ошибаюсь?
в комбинации с этим
bnk>3. Выделять фиксированное число токенов на месяц по подписке.
bnk>Ну тут непонятно что делать если предел превышен
Использовать различные уровни подписки с различным объемом токенов.

Попутно бы собирал запросы и, возможно, тренировал бы свою модель.

Здравствуйте, pva, Вы писали:

bnk>>Сейчас использую PPG.
pva>Когда я только пробовал зарегистрироваться в PPG со схемой продажи пакетов "токенов"/"часов поддержки" — они сказали что это запрещено.
pva>Но может с тех пор что-то изменилось. Думаю, спросить у них было бы наилучшим способом получить информацию.

Вот, вот, у меня такое же воспоминание что они не разрешают продавать "токены", только лицензии.
А как тогда в играх чаржат за игровую "валюту", через стор?

Может это можно не через PPG а через кого другого.
Я ещё в Microsoft Store зарегистрирован но там я тоже продажи токенов не видел, может плохо смотрел

pva>Я бы использовал этот метод:
bnk>>2. считать использование.
bnk>>На каждый реквест выдается количество использованых токенов, их можно конвертировать в количетсво потраченных денег.
bnk>>Аккумулировать для каждого пользователя. Можно в принципе ввести плату, в которую включить определенное количество токенов
bnk>>Но у PPG нет такого, насколько я знаю (нельзя покупать "токены"), но может я ошибаюсь?
pva>в комбинации с этим
bnk>>3. Выделять фиксированное число токенов на месяц по подписке.
bnk>>Ну тут непонятно что делать если предел превышен
pva>Использовать различные уровни подписки с различным объемом токенов.

Да, разные месячные пакеты ("продукты") это вариант

pva>Попутно бы собирал запросы и, возможно, тренировал бы свою модель.

Не это вообще не мой уровень

Если кратко, то 3-е, подписки + несгораемые кредиты.
На самом деле там очень дешево эти текстовые АПИ (я Gimini использую). У вас же несотни тысяч пользователей в сутки.
Вы запустите по быстрому на коленке, посчитайте конверсию и будет видно. Главный вопросы:
— будут ли вообще покупать? Оно за деньги надо кому или проще нагуглить SVG-ку готовую. Есть ли у людей "боль" что они готовы прям платить.
— Даже вопрос будут ли лергаться вводя емейл (логин with google по опыту обязателен!) Уже на этом этапе будет неслабый отсев желающих.
В общем надо брать и делать, вам тут не скажут
— Да, если трафа дофига, а конверт в реги будет слабый, рассмотреть монетизацию рекламой.

Здравствуйте, eustin, Вы писали:

E>Если кратко, то 3-е, подписки + несгораемые кредиты.
E>На самом деле там очень дешево эти текстовые АПИ (я Gimini использую). У вас же несотни тысяч пользователей в сутки.

Это да
Но надо какой-то блок чтобы файлы в мегабайты текста не фигачили

E>Вы запустите по быстрому на коленке, посчитайте конверсию и будет видно. Главный вопросы:
E>- будут ли вообще покупать? Оно за деньги надо кому или проще нагуглить SVG-ку готовую. Есть ли у людей "боль" что они готовы прям платить.

Ну сценарий такой что взять существующий файлик и чуток изменить, а синтаксис SVG неохота вспоминать
Или однотипные операции.

E>- Даже вопрос будут ли лергаться вводя емейл (логин with google по опыту обязателен!) Уже на этом этапе будет неслабый отсев желающих.
E>В общем надо брать и делать, вам тут не скажут

E>- Да, если трафа дофига, а конверт в реги будет слабый, рассмотреть монетизацию рекламой.

Баннер я и так поставил, но с него капают копейки (около $15 в месяц), даже если 1 пользователь из 1000 в день зарегистрируются я смогу переехать на пляж через год
В смысле бесплатный вариант (как сейчас) я планирую оставить, просто добавить панельку с чатом.

Здравствуйте, bnk, Вы писали:

bnk>>>Сейчас использую PPG.
pva>>Когда я только пробовал зарегистрироваться в PPG со схемой продажи пакетов "токенов"/"часов поддержки" — они сказали что это запрещено.
pva>>Но может с тех пор что-то изменилось. Думаю, спросить у них было бы наилучшим способом получить информацию.

bnk>Вот, вот, у меня такое же воспоминание что они не разрешают продавать "токены", только лицензии.
bnk>А как тогда в играх чаржат за игровую "валюту", через стор?

неправильно, дядя Федор, ты бутерброды делаешь (с)
у тебя классический SaaS, где есть несколько уровней подписки

Здравствуйте, bnk, Вы писали:


bnk>Сейчас использую PPG.

bnk>4. Полностью свой хостинг модели.
bnk>Дрого и модель можно хостить только тупенькую.

bnk>В общем есть у кого опыт как встрить платную LLM в свою софтину и не обанкротиться, а наоборот, озолотиться?

bnk>Это в приницпе общий вопрос, как быть если сам софт использует 3-rd party платный сервис

Как и все другие — давать сколько-то условных "токенов", когда потратились — предлагать купить ещё. За "сто рублей" давать безлимит.
Всё остальное скорее всего хуже.

Кстати по ощущениям Gemini 2.5pro неплохо "понимает" svg и кривые в них и не жмотится на "проговаривание" всего кода svg заново.
У всех других либо в контекстном окне токены быстро заканчиваются, либо они не "видят" что там получается, либо жмоты, типа ChatGPT, начинают говорить "измени тут, измени там"

Здравствуйте, Dimonka, Вы писали:

bnk>>Это в приницпе общий вопрос, как быть если сам софт использует 3-rd party платный сервис

D>Как и все другие — давать сколько-то условных "токенов", когда потратились — предлагать купить ещё. За "сто рублей" давать безлимит.

Ну как бы в этом и вопрос, как это реализовать средствами PPG. Они не разрешают продавать "фантики" (токены)

Здравствуйте, bnk, Вы писали:

bnk>Здравствуйте, Dimonka, Вы писали:

bnk>>>Это в приницпе общий вопрос, как быть если сам софт использует 3-rd party платный сервис

D>>Как и все другие — давать сколько-то условных "токенов", когда потратились — предлагать купить ещё. За "сто рублей" давать безлимит.

bnk>Ну как бы в этом и вопрос, как это реализовать средствами PPG. Они не разрешают продавать "фантики" (токены)

я же тебе написал — продавай подписку на сервис с несколькими уровнями
PPG не против принимать оплату за SaaS

Здравствуйте, icezone, Вы писали:

D>>>Как и все другие — давать сколько-то условных "токенов", когда потратились — предлагать купить ещё. За "сто рублей" давать безлимит.

bnk>>Ну как бы в этом и вопрос, как это реализовать средствами PPG. Они не разрешают продавать "фантики" (токены)

I>я же тебе написал — продавай подписку на сервис с несколькими уровнями

Ну да, я понял. Прикручиваю

Я просо Dimonkе отвечал про токены, почему в лоб с токенами в PPG не получится.
Кстати в Microsoft вроде как нашел что-то похожее (возможность переложить платеж за использование сервиса Azure на пользователя — они LLM модели тоже хостят), но с этим разбираться надо.

bnk>В общем есть у кого опыт как встрить платную LLM в свою софтину и не обанкротиться, а наоборот, озолотиться?
bnk>Это в приницпе общий вопрос, как быть если сам софт использует 3-rd party платный сервис

Ишь хитрый какой.
Начнем с того, что злой бигтех для того и существует, чтобы всех маленьких и независимых обанкротить.