P>4 Позиция где он найден это будет шифрованым значением байта.

— в общем случае байт может быть вообще не найден
— позиция может не влезть в байт. а отбросить лишние биты нельзя, т.к. как потом расшифровывать? да и быстродействие страдает: сканировать неизвестно сколько байт на каждый шифруемый байт. вряд ли поедет велосипед с такими квадратными колесами.
гораздо проще проксорить младший байт псевдослучайного числа с найденным в файле и с шифруемым.