[StructLayout(LayoutKind.Sequential)]
struct out_struct
{
public IntPtr buf;
public Int32 buf_size;
}

[DllImport("libdll.dll", CharSet = CharSet.Ansi)]
private static extern out_struct();

Для чтения из out_struct.buf использовать
int Marshal.ReadInt32(IntPtr Ptr);