Из .o — скомпилировать. Это object-файл, содержащий какой-то сишный модуль в собранном виде.
Из .out — не знаю что в него запихнули.
Из .luac — написать программу, в которую строкой вклеивается содержимое .luac, и запускается в луа-интерпретаторе. Это луа-байткод, если что.