Но в другом ответе Вы уточнили, что шифруется содержимое файла, а не протокол обмена.

Это мои предположения, я не знаю, как устроен реальный продукт из статьи. Но я понял именно так — что они хранят зашифрованные файлы, причём ключи шифрации у них самих отсутствуют, поэтому они в них и залезть не могут. Шифрация файлов, кстати, не исключает шифрации протокола обмена.

Т. е. авторизация от этого шифра не зависит.

Может зависеть, может нет — надо знать, как сделано. Я бы, конечно, разнёс этот функционал.

Если так, то хэш действительно не передаётся.

Даже при использовании методов симметричной криптографии для аутентификации (или чего ещё), когда двум партнёрам (например, клиенту и серверу) действительно надо иметь общий ключ, не обязательно им обмениваться по сети даже при генерации. Есть такая вещь, как алгоритмы согласования ключей — Диффи-Хеллман, например. Правда, если ключ является функцией пароля, который пользователь вводит руками, это не подходит.