Ничего не могу найти, удовлетворяющее моим требованиям. Итак, что хотелось бы:
Высокая скорость работы;
Возможность переопределить функции работы с памятью;
Возможность вызывать нативные функции из виртуальной машины;
Чистый Си без каких-либо внешних зависимостей;
Хотя бы минимальные проверки обрабатываемых инструкций на безопасность;
Как можно меньший размер.
А нужно все это безобразие для безболезненного встраивания машины в код драйвера. Пока что остановился на варианте "выдрать и доработать машину из DTrace", но может есть более простой путь, а я о нем просто не знаю.