Ну зря Вы так въелись. Каналы связи сейчас очень неплохи. Мы еще, пока, догоняющие. Но уже скорости передачи данных впечатляют.
Например мне нужно посчитать какой - нибудь полином 30 порядка. Я даю 30 коээфициентов этого полинома и написание самого полинома или его тип. Все это будет отправлено в "облако" одним TCP-пакетом. Ответ так вообще будет одно число. Т.е. вся нагрузка на канал сводится к отправке и приему одного пакета. А вычисление полинома на своем, например, планшетнике требует программы, да еще под андроид или ios или windows. Т.е. первый минус, для оффлайнового приложения требуется мультиплатформенный софт. Второй минус оффлайнового приложения, затраты на отправку пары пакетов TCP и приема столько же пакетов совершенно не требуют большой вычислительной мощности от компьютера. А вот посчитать полином 30 порядка - процессор-то желательно иметь очень неслабый, а в идеале многоядерный, да с поддержкой DSP.
Теперь конкретно по теме.
Программа ввода/вывода может быть, вообще, примитивной, опять же под любой замызганый нетбук или планшетник. Что напишу сейчас ниже - мое имхо, и не в коем случае не говрит, что именно так сделано. Но как из вариантов - подойдет. Оцифровываем звук с микрофона и в формат WAV гоним его в облако распознования речи. Оцифровка канала идет на частоте 44КГц с разрядностью 16 бит. Т.е. 2 байта * 44000=88000 байт в секунду. Вы всерьез считаете, что такой поток забьет существующие каналы провайдеров Интернета? У меня сейчас инетнет канал 24Мбит или 4 мегабайта в секунду. Дальше, всякие алгоритмы распознования выполняются не в моем слабеньком ноутбуке, а на каком-то распределенном сервере и мне даже это не интересно, как это обрабатывается. Мне в ответ приходит текст или команды, соответсвующие моим голосовым командам. Опять же, текст канал вообще ни как посадить не сможет. Т.е. нагрузка на канал связи минимальная. Нагрузка на вычислительные мощности моего ноутбука минимальная, а серьезная вычислительная задача выполнена. Поэтому, "облака" вполне себе отличная вещь. НУ а что платить приходится, сейчас не социализм, все кушать хотят.